持续交付发布可靠软件的系统方法(部署流水线)第五章:部署流水线解析
《持续交付发布可靠软件的系统方法》读书笔记
什么是部署流水线部署流水线是指软件从版本控制到用户手中这一过程的自动化表现形式。价值流图
产品可行性评估
产品探索
产品计划与评估
开发
最后测试与审核
发布
3天
1周
7天
10天
10天
10天
3天
7周
1周
2天
2小时
开发到发布的流水线:会有很多次构建通过这一流程走向最后的发布
流水线各个阶段:交付团队->版本控制库->构建和单元测试->自动化验收测试->用户验收测试->发布
一般而言,只要某个构建使这个流程任一阶段失败,都会停止,不会进入下一个阶段。
提交阶段【自动化测试(主要是单元测试),代码分析】
自动化验收测试阶段【功能与非功能测试】
手工测试阶段【对自动化测试的补充,探索性测试,集成测试等】
发布阶段【部署到生产环境或试运行环境】
最基本的部署流水线
部署流水线的相关实践
只生成一次二进制包。对于不需要编译的语言,二制包指的是所有源文件的集合。这些二进制包应保存在文件系统的某个位置,让流水线后续阶段能够轻松访问到,但不要放在版本控制库中。二进制包应与 ...
持续交付发布可靠软件的系统方法(部署流水线)第六章:构建与部署的脚本化
《持续交付发布可靠软件的系统方法》读书笔记
##构建工具概览
Make
Ant
NAnt与MSBuild
Maven
Rake
Buildr
Psake
构建部署脚本化的原则与实践
为部署流水线的每个阶段创建脚本
使用恰当的技术部署应用程序
使用同样的脚本向所有环境部署
使用操作系统自带的包管理工具
确保部署流程是幂等的
部署系统的增量式演进
部署脚本化
多层的部署和测试
层
配置
应用/服务/组件
应用配置
中间件
中间件配置
操作系统
操作系统配置
硬件
硬件
测试环境配置 部署前对基础设施做标准冒烟测试,如果发现问题,就让环境配置流程快速失败,并给出测试结果
确认能从数据库中拿到一条记录
确认能连上网站
断言消息代理中的已注册的消息集合是正确的
透过防火墙发送ping,证明线路通畅
推荐策略
总是使用相对路径
消除手工步骤
从二进制包到版本控制库的内建可追溯性二进制包记录版本信息,如Java应用可以在MANIFEST中包含元数据,另外可以将构建流程生成的每个二进制包的MD5值及名字和版本标识符一起放在数据库中
不要把二进制包作为构建的一部分 ...
持续交付发布可靠软件的系统方法(部署流水线)第八章:自动化验收测试
《持续交付发布可靠软件的系统方法》读书笔记
验收测试通常是在每一个通过提交测试的软件版本上执行的。
验收测试的目的:对于一个单独的验收测试,它的目的是验证一个用户故事或需求的验收条件是否被满足。如功能验收条件和非功能验收条件。
如果每次提交测试后都在该版本上运行自动化验收测试,会有如下效果:
反馈环大大缩短,能够更快地定位问题
测试、开发人员和客户需要紧密合作才能创建一个良好的自动化测试套件,这会促进他们之间的良好合作
有助于让每个人更关注业务的价值
验收测试与单元测试的区别:验收测试是针对业务的,单元测试是面向开发的。
创建验收测试
分析人员与测试人员和客户紧密合作,定义验收条件
分析人员向开发人员讲解需求,以及它的业务上下文,并检查一遍验收条件
测试人员与开发人员讨论,并就“哪些自动化验收测试来证明验收条件被满足”达成一致
开发人员认为工作完成是指所有单元测试和组件测试通过,验收测试全部实现,并证明系统满足需求。此时可以向分析人员、测试人员和客户进行演示
应用程序驱动层应用程序驱动层是一个知道如何与应用程序打交道的层次。它所用的API是以某种领域语 ...
持续交付发布可靠软件的系统方法(部署流水线)第十章:应用程序的部署与发布
《持续交付发布可靠软件的系统方法》读书笔记
引言发布到生产环境和部署到测试环境的差异应该被封装在一组配置文件中,遵循一样的部署过程。启动自动部署系统,将要部署的软件版本与环境名称告诉它,点击开始,后缀部署与发布使用相同的流程。我们需要有一个列表,其中包含能够部署到每个环境的所有构建,并且只要通过点击就可以选择一个软件版本向某个环境进行自动部署。同时这种方式是对环境修改的唯一途径(包括对操作系统和第三方软件配置的修改)。
创建发布策略(文档)
每个环境的部署由发布由谁负责
创建一个资产和配置管理策略
部署时所用的技术的描述。运维团队与开发团队应对其达成共识
实现部署流水线的计划
枚举所有的环境,包括用于验收测试、容量测试、集成测试、用户验收测试的环境,以及每个构建在这些环境中的移动过程
描述在测试和生产环境中部署时应该遵循的流程,比如一个变更申请,及申请授权等
对应用程序的监控需求,包括用于通知运维团队关于应用程序相关状态的API和服务
讨论部署时和运行时的配置方法如何管理,以及它们与自动化部署流程是如何关联在一起的
描述应用程序如何与所有外部系统集成
如何记录日志详情,以便运维人员能够 ...
测试工具汇总
压力测试JmeterJmeter简单介绍与搭配Jenkins实现自动化测试实践使用JMeter进行负载测试——终极指南
LocustLocust学习总结分享性能测试工具LocustLocust 系列教程
LoadRunnerUsing LoadRunner with Jenkins
接口测试Robot FrameworkRobot Framework 在 Jenkins 上的自动化测试
系统僵尸进程管理
查看系统僵尸进程数top
查看僵尸进程详情ps -ef|grep defunct
停止僵尸进程kill -9 $Parent PID
系统性能测试与监测工具汇总
综合能力性能测试(Unixbench)1[root@localhost] $ ./Run
计算查看当前CPU负载(uptime)1[root@localhost] $ uptime
测试单cpu计算能力(bc)1[root@localhost] $ time echo "scale=5000;4*a(1)" | bc -l -q
内存查看当前内存使用的情况的状态(free)1[root@localhost] $ free -m
进程对内存的占用情况(pmap) 1[root@localhost] $ pmap -d 35713 # 查看进程35713占用内存的情况
磁盘磁盘IO测试(dd)测试磁盘的IO写速度
1# time dd if=/dev/zero of=test.dbf bs=8k count=300000 oflag=direct
测试磁盘的IO读速度
1# dd if=test.dbf bs=8k count=300000 of=/dev/null
表示每次写入/读取8k的数据,执行300000次
实时查看各磁盘的io(iostat)12[ ...
通过跳板机代理将本地文件传输到远端服务器
通过-J参数指定跳板机123$ ssh -J user@<bastion:port> <user@remote:port>// scp$ scp -J user@<bastion:port> sourcefile <user@remote:port>:
在.ssh/config中配置123456789101112### The Bastion HostHost jump HostName 10.2.3.2 Port 3022 User jump### The Remote HostHost remote HostName 172.32.2.7 Port 22 User root ProxyJump jump
使用普通参数就可以实现跳转12$ ssh remote$ scp <sourcefile> remote:/data/
项目的通用结构
项目的通用结构,可根据真实情况进行删减
12345678910111213141516171819202122232425- src #代码- data #需要保存的文件,如安装包、镜像等- docs # 说明文档- scripts #相关的脚本文件- hack - build - Dockerfile # 构建镜像 - Vagrantfile #Vagrant配置 - ansible/ # ansible构建部署脚本 - site.yml - hosts - roles/ - group_vars/ - host_vars/ - library/ - kubernetes/ # Openshift平台构建部署脚本 - docker-compose # Docker compose部署 - conf - docker-compose.yaml- Makefile # 不同环境构统一构建入口- Jenkinsfile # Jenkins构建流水线,可调用ansible脚本或Dockerfile脚本- README ...
Ansible的k8s模块完全兼容OpenShift资源
Ansible 的 k8s 模块完全兼容 openshift 资源
安装
使用 k8s 模块需要安装 openshift 的 python 扩展
1$ pip install --ignore-installed openshift
安装过程中报如下错误TypeError: find_packages() got an unexpected keyword argument include需要升级 setuptools
1$ pip install -U setuptools
在执行 k8s 命令的主机上登录 kubernetes/openshift 平台
12$ oc login https://master.example.com:8443 -u admin -ppassword
测试
使用 ansible k8s 模块创建 namespace
1$ oc -i hosts all -m k8s -a 'state=present name=testproject kind=Project'
使用 ansible k8s 模块基于 d ...



