使用Docker构建持续集成与自动部署的Docker集群

https://my.oschina.net/jayqqaa12/blog/633683

 

摘要: 让我们来使用Docker来构建我们的持续集成系统 自动部署集群管理 集中式日志管理和主机监控系统 本文结合作者的实践 介绍了构建的整个步骤和遇到的问题

 

为什么使用Docker

从我个人使用的角度讲的话  部署来的更方便

只要构建过一次环境 推送到镜像仓库 迁移起来也是分分钟的事情

虚拟化让集群的管理和控制部署都更方便

hub.docker.com 里面的镜像也很方便 节约了很多自己生成镜像的时间

相当于提高了复用率

 

 

安装Docker

 我这里使用 Ubuntu 14.04 系统上安装 

curl -s https://get.docker.com/ | sudo sh

Ubuntu 其他版本可能需要先升级一下内核

详细可参考 这里

 

 

构建持续集成环境(Java)

下来开始我们今天的主题 构建持续集成与自动部署的Docker集群 

持续集成的目的

 让我们每次更新了代码提交到git仓库后就自动运行测试构建新版本 自动部署到测试或集群 从来提高生产效率 告别重复的劳动

 

持续集成和部署的原理

我们用到的所有基础设施我们都将使用Docker 部署

1. 推送到git 仓库

2. jenkine pull git代码  运行 编译镜像 进行编译

3. 打包生成的代码 生成一个新版本的镜像 推送到仓库  删除当前容器  重新运行新版本镜像

4. 监控系统

5  docker   log 集中管理  LEK

 

本文使用的是Java的构建方式 除了第三步以外 其他工程也都是一样的

 

  •  构建Gitlab

  

  Gitlab作为代码仓库是我们环节的第一步 (如果使用github 或osc git 可以跳过这个步骤)

 为了方便构建我们先安装一下docker编配工具 Docker-compose 

#使用python 包管理工具pip安装 
apt-get install python-pip python-dev
pip install -U docker-compose

 一般构建依赖关系比较复杂的容器都可以用docker-compose来配置

使用说明可以看一下 这里

我们使用hub.docker.com 的  sameersbn/gitlab 镜像来快速构建

docker-compose.yml 文件如下

 gitlab:
    image: sameersbn/gitlab
    ports:
      - "22:22"
      - "80:80"
    links: 
      - gitlab-redis:redisio
      - gitlab-postgresql:postgresql
    environment:
      - GITLAB_PORT=80 
      - GITLAB_SSH_PORT=22
      - GITLAB_SECRETS_DB_KEY_BASE=long-and-random-alpha-numeric-string
    restart: always

 gitlab-redis:
    image: sameersbn/redis
    restart: always

 gitlab-postgresql:
    image: sameersbn/postgresql:9.4-12
    environment:
        - DB_NAME=gitlabhq_production
        - DB_USER=gitlab
        - DB_PASS=password
    restart: always
#执行如下命令 就可以构建gitlab了 
docker-compose up -d

运行 docker ps 查看一下 可以看到已经启动成功了

访问一下启动主机的 你映射的端口即可访问 我这里是80

  • 构建Docker私有仓库

同样我们还需要一个Docker仓库来存放我们发布的镜像版本(使用公有仓库如 docker hub 可以跳过此步骤)

我们采用 官方镜像 registry 运行

运行如下命令即可

docker run -d  --restart=always --name registry \
 -v  /mnt/docker/registry:/tmp/registry  -p 5000:5000 registry

运行docker ps 即可查看 运行情况

相应命令

docker pull   仓库ip:仓库端口/项目名     拉取镜像
docker push    仓库ip:仓库端口/项目名    推送镜像

问题

docker私有仓库 拉取/推送 失败 提示不能使用http 连接

  •   方法1 设置仓库https 证书即可  推荐 详情可见
  •   方法2 在docker启动参数里面添加 –-insecure-registry  0.0.0.0/0   然后重启docker
  • 构建Jenkins

我们使用jenkins 来持续集成

构建同样十分简单 我们使用的是 hub.docker.com 的  jayqqaa12/jenkins 镜像

执行命令

docker run  docker run  -d  -p 8080:8080 \
--name jenkins  --restart=always -v /mnt/jenkins_home:/var/jenkins_home \
-v /var/run/docker.sock:/var/run/docker.sock   jayqqaa12/jenkins

参数说明:

 -v /mnt/jenkins_home:/var/jenkins_home 
  # 映射到本地磁盘
-v /var/run/docker.sock:/var/run/docker.sock  
#映射主机的docker到容器里面 这样在容器里面就可以使用主机安装的 docker 了

然后访问8080 端口就可以了

默认用户密码 admin admin

  • Docker-Swarm 集群

  我们使用Docker-Swarm 来部署 docker 集群

部署同样十分简单

#运行这个这个命令后会返回一个token来替换下面命令的<token>
 docker run --rm swarm create 
 
 # 运行节点 管理集群swarm  来管理所有节点 
 docker run -d --name swarm-manage --restart=always -p \
 2376:2375 swarm manage token://<token>
 
 #在节点服务器上运行 添加节点到 集群中  
 docker run -d --restart=always --name swarm-agent swarm \
 join --addr=当前服务器的ip:2375 token://<token>
#查看集群的节点信息 

docker -H 管理节点的ip:2376 info

如图可见 当前集群有一个节点

在集群运行容器

同理只要在  添加 -H 管理节点的ip:2376 就可以在集群上运行容器了

docker -H 管理节点的ip:2376 run  xxx   #运行容器
docker -H 管理节点的ip:2376 ps  xxx    #查看集群容器运行情况

 

 

问题

查看节点发现无法连接  请在节点 docker配置文件  /etc/init/docker.conf 里面 找到如下一行 添加启动参数

 --insecure-registry 0.0.0.0/0 # 设置仓库为http访问  -H unix:///var/run/docker.sock  -H 0.0.0.0:2375 #打开节点对外通信接口 --label label_name=docker-1 # 设置一下label 方便区分

 

 

 

  • Hello World 

 基础的设施我们已经搭建好了 下面我们就可以开始测试一下

1)这里我新建了一个javaEE maven 项目 很简单写了一个 index.html

2)在 gitlab新建一个docker-hello-world 项目仓库

3) 编写打包镜像的Dockerfile     和部署到集群的 脚本 (放在当前项目里面就可以了)

Dockerfile

很简单的步骤 把编译好的war 放入镜像就可以了

这里使用的是 官方 tomcat 镜像

FROM tomcat:8-jre8
RUN rm -rf /usr/local/tomcat/webapps
ADD ./target/ROOT.war /usr/local/tomcat/webapps/ROOT.war

build.sh  部署使用的脚本

#!/bin/bash

#build in jenkins 

# 你的docker 仓库的地址 
REG_URL=XXX

#你的swarm manage 节点的地址
SWARM_MANAGE_URL=xx:2376

#根据时间生成版本号
TAG=$REG_URL/$JOB_NAME:`date +%y%m%d-%H-%M`

#使用maven 镜像进行编译 打包出 war 文件 (其他语言这里换成其他编译镜像)
docker run --rm --name mvn  -v /mnt/maven:/root/.m2   \
 -v /mnt/jenkins_home/workspace/$JOB_NAME:/usr/src/mvn -w /usr/src/mvn/\
 maven:3.3.3-jdk-8 mvn clean install -Dmaven.test.skip=true
 
#使用我们刚才写好的 放在项目下面的Dockerfile 文件打包 
docker build -t  $TAG  $WORKSPACE/.
docker push   $TAG
docker rmi $TAG


# 如果有以前运行的版本就删了 
if docker -H $SWARM_MANAGE_URL ps -a| grep -i $JOB_NAMEthen
        docker -H $SWARM_MANAGE_URL rm -f  $JOB_NAME
fi

#运行到集群
docker -H $SWARM_MANAGE_URL run  -d  -p 80:8080  --name $JOB_NAME  $TAG

 

4)在jenkins 上新建一个docker-hello-world 项目

选择自由风格即可

 

设置一下git仓库地址

 

设置一下触发器 为了方便起见这里设置 每分钟拉取一下  也可以设置一下  gitlab hook

同时设置一下 构建要执行的脚本 就执行我们刚才写好的脚本即可

 

5) 那么开始 推送到我们的仓库

然后查看jenkins console 就可以看到执行的过程了 已经看到 已经执行成功了

访问一下 已经部署到集群了  (关于集群的负载均衡 部署这里就不讲了)

 

6)更新版本

修改一下index.html 然后 再次推送

等待2~3分钟后我们就可以看到已经重新部署成功了 就是怎么简单

 

 

问题1  为什么要把war包打包进容器 而不是挂载新的war包

解答:docker的理念是一个整体 一个整体的运行环境而不是单纯的war包 更适合整体迁移

 

问题2:这样镜像不会很大么 下载会不会很不方便

解答:因为docker的镜像是多层依赖的所以 除了第一次下载慢一点以后都会复用之前相同的层

所以下载的是不同的 部分 在本实例中只是war包的部分

 

 

  • Docker管理监控系统

如何管理容器 查看容器运行情况 日志等都不太方便 我们需要搭建一个监控平台

这里我们采用csphere 的docker管理平台、

在管理节点 执行以下命令就可以安装了 管理程序

curl -SsL -o /tmp/csphere-install.sh https://csphere.cn/static/csphere-install-v2.sh
sudo env ROLE=controller CSPHERE_VERSION=1.0.1 /bin/sh /tmp/csphere-install.sh

在集群的节点安装Agent

访问controller A主机的1016端口 点击左侧的“主机”菜单,进入主机列表页面,

点击添加主机并复制脚本,在Agent主机安装Agent程序

然后就可以查看和管理 docker容器了   具体查看文档这里就不多提了

 

  • 更多

日志统一管理平台 ELK

docker集群动态伸缩

等等…

且听我们下回分解

 

  • 其他

docker-hello-world 项目代码

Leave a Reply

Your email address will not be published. Required fields are marked *