BKCI 组件

蓝鲸持续集成平台(简称bk-ci )是基于 kotlin/java/js/go/lua/shell等多种语言编写实现的，采用完全前后分离，插件式开发，具备高可用可扩展的服务架构设计：

• 前端&接口网关(WebAPI Gateway & FrontEnd) ：

  • WebAPI Gateway： 由OpenResty负责，包含了对接用户登录及身份鉴权，和后端API的Consul服务发现转发的lua脚本及Nginx配置

  • FrontEnd： 基于VUE的纯前端工程，包含一序列的js,img和html等静态资源。

• 后端服务(MicroService BackEnd)： 基于Kotlin/Java编写，采用SpringCloud框架的微服务架构设计，以下按各微服务模块的启动顺序介绍：

  • Project： 项目管理，负责管理流水线的项目，多个模块依赖于此。

  • Log： 构建日志服务，负责接收构建的日志的转发存储和查询输出。

  • Ticket： 凭证管理服务，存储用户的凭证信息，比如代码库帐号密码/SSL/Token等信息。

  • Repository: 代码库管理服务，存储用户的代码库，依赖于Ticket的联动。

  • Artifactory: 制品构件服务，该服务只实现了简化版的存取构件功能，可扩展对接自己的存储系统。

  • Environment: 构建机服务，导入构建机以及用环境管理构建机集群用于构建调度的并发。

  • Store： 研发商店服务，负责管理流水线扩展插件和流水线模板功能，包括插件&模板升级上下架，与process和artifactory联动。

  • Process： 流水线管理，负责管理流水线以及流水线编排调度功能的核心服务。

  • Dispatch： 构建（机）调度，负责接收流水线的构建机启动事件，分发给相应构建机处理。

  • Plugin： 服务的插件扩展服务，目前为空，主要是用于提供给后续扩展一些与前端页面联动的后台服务，比如对接各类CD平台，测试平台，质量检查平台等等，与前端页面配置，想象空间很大。

• 资源服务层(Resource)： 包括提供存储和必须的基础中间件等。

  • Storage(存储服务): 存储服务/中间件等一序列依赖的基础环境。

    • MySQL/MariaDB： bk-ci的主数据库存储，可用mysql 5.7.2 /mariadb 10.x存储以上所有微服务的关系型数据。

    • Redis： 核心服务缓存，3.x版本，缓存构建机信息和构建时的信息和提供分布式锁操作等等。

    • ElasticSearch： 日志存储，log模块对接ES来对构建的日志做存取。

    • RabbitMQ： 核心消息队列服务，bk-ci的流水线事件机制是基于RabbitMQ来流转事件消息的。

    • FileSystem： 这块主要为artifactory提供服务，用于存储插件，构建产物等二进制文件服务，可对接文件或者云存储类，扩展在artifactory服务模块。

    • Consul： 作为微服务的服务发现Server，需要搭建Consul Server， 以及在bk-ci微服务部署的所在机器上同时安装Consul并以 Agent方式运行。 组建集群可以直接用bk-ci微服务部署机器(2台)上直接以consul server和agent方式直接启动，以减少对机器数的需求。

  • Agent(构建机): 构建机是负责运行CI打包编译构建的一台服务器/PC，是由比如go，gcc，java，python，nodejs等等编译环境依赖，再加上运行由bk-ci提供编写实现的两部分服务进程：

    • Agent： 由Golang编写实现，分DevopsDaemon和DevopsAgent两个进程 ：

      • DevopsDaemon： 负责守护和启动DevopsAgent。

      • DevopsAgent： 负责与Dispatch和Environment微服务通信，负责整个Agent的升级和Worker(任务执行器) 进程的启动和销毁工作。

    • Worker： 由Kotlin编写实现，是一个命名为agent.jar的文件，，任务真正的执行者。被DevopsAgent通过jre来拉起运行，之后会负责与Process微服务模块通信，领取插件任务并执行和上报结果(Log&Process)。