12月10日，前阿里数据库团队资深DBA杨奇龙老师，在【DBA 社群】北京群进行了一次主题为“数据库性能测试”的线上分享。小编特别整理出其中精华内容，供大家学习交流。同时，也非常感谢杨奇龙老师对DBA 社群给予的大力支持。 杨奇龙
这个是此次分享的大纲，本次分享其实相对比较简单，偏向于“纸上谈兵” 不涉及具体的实践操作，没有介绍工具如何使用 ，更多是介绍我对MySQL 压测的认识，总结。有什么不妥之处，望各位大牛不吝指导。 1压测方法论
其实可以把每次压测当作是一个项目，包括压测目的是什么？新版本数据库上线？新功能？ 新的机型 ？ 确定压测目标之后我们要选择何种压测场景进行压测，只读，只写，读写混合？ 观察压测过程中的性能曲线是否满足我们的期望，并且真对性能出现可重复性抖动的问题进行分析原因并改进。 压测结束之后，发布压测报告。 2为什么要压测
其实这个也就是我们压测的目的/目标 ，新的db/机器/存储等上线和新技术预研，业务大促活动类似于11.11 或者秒杀活动等等都是需要提前进行压测的，评估数据库系统的性能容量和业务瓶颈，要不访问量过大导致业务瘫痪 就比较麻烦了，失去客户对我们产品的信任了。
当然这个需求是对业务量相当大的时候必须做的,如果业务量极小可以忽略该环节。 3影响压测的因素讲完压测的目的，我们要讨论压测过程中可能会遇到的问题。可能影响整体系统性能的因素大致分为：DB 层面、OS 层面 、存储层面。
对于MySQL层面，Buffer pool大小事务写磁盘，binlog落盘的策略，innodb 层的并发读设置 事务隔离级别 默认使用rc 都是会影响到最终的压测写入性能表现。
关闭numa 在bios 里面设置 cpu 为最大性能模式，记得有一两次是由于设置为省电模式导致性能出现问题。初始化系统的时候选择ext4 或者xfs 系统文件。内核参数主要是 tcp 参数，影响业务app 和db之间建立网络连接。
其实数据库模型可以分为 io bond 类型 和cpu bond 类型，估计大家目前的oltp业务系统，绝大多数的业务系统属于 io bond 类型，大家的业务系统大多数也是都是用了基于 ssd的存储结构 ，可能采用的raid 模式不一样有些是raid10 ，有些是raid 5 的差异。 在做性能压测的时候需要注意 raid 卡的配置，尤其是读写策略 WB 模式和WT模式性能差异极大。生产业务上注意对raid卡的充放电，避免导致模式变为WT 模式致使性能下降。 4需要关注的指标
对于db层，我想特别强调对rt的监控，脱离业务场景的压测都是耍流氓，很多压测报告都说qps，tps 极高，但是没有公布对应的rt。大于生产需求的rt 阀值的压测结果都是没有用的。 比如说用户发起的一个业务请求，包含20次select，10次dml操作，单条sql，rt 为10ms,应用服务器 和db服务器网络交互 一次同城1ms -2ms，跨城5-15ms，单独db的响应时间就30*10=300ms 了，加上app与db的交互和业务处理，前端的处理时间，对于高并发的系统,吞度量不能接受。
await：从请求磁盘操作到系统完成处理,每次请求的平均消耗时间,包括请求队列等待时间,单位是毫秒(1秒=1000毫秒) %iowait：显示用于等待I/O操作占用 CPU 总时间的百分比 svctm：平均每次设备I/O操作的服务时间 (毫秒)%util: 一秒中有百分之多少的时间用于 I/O 操作，或者说一秒中有多少时间 I/O 队列是非空的
5注意事项
我最开始的某些压测场景没有做每次压测的隔离，导致上次的压测结果影响了下一次的压测性能，致使系统rt不稳定。可以通过orzdba innodbs 命令查看uckpt% 该参数表明还有多少日志没有被刷新到磁盘。 6常用压测工具(开源)这里我例举几种常见的开源数据库压测工具，仅仅讲述网上公开的how to 资料有很多，大家可以利用谷歌去搜索。
sysbench是一款开源的多线程性能测试工具，可以执行CPU/内存/线程/IO/数据库等方面的性能测试。数据库目前支持MySQL/Oracle/PostgreSQL。是一款非常受dba 欢迎的压测工具。
TPC(Tracsaction Processing Performance Council) 事务处理性能协会是一个评价大型数据库系统软硬件性能的非盈利的组织，TPC-C是TPC协会制定的，用来测试典型的复杂OLTP系统的性能；Tpcc-mysql是percona基于tpcc衍生出来的产品，专用于mysql基准测试，其源码放在bazaar上，因此需要先安装bazaar客户端。值得说明的是 Tpcc-mysql 包括五个处理逻辑，是比较贴近电商平台业务的一个压测工具New-Order :新订单 Payment :支付 Order-Status :订单查询 Delivery:发货 Stock-Level :库存。
mysqlslap是从5.1.4版开始的一个MySQL官方提供的压力测试工具。通过模拟多个并发客户端访问MySQL来执行压力测试，同时提供了比较详细的数据性能报告。并且能很好的对比多个存储引擎在相同环境下的并发压力性能差别。通过mysqlslap help可以获得可用的选项，个人觉得 mysqlslap是所有压测软件中最简单的。
TCPCOPY 是一个 tcp 流量的实时复制工具，其1.0版本由网易工程师 @tcpcopy 开发和维护。一般用来将生产环境的线上流量实时复制到测试环境进行测试。例如新系统上线前，如果我们希望进行一些基本的压力测试，那么我们可以直接利用 tcpcopy 来复制线上的流量过来对系统进行测试，这样的好处是测试数据接近真实水平，且实施起来相对简单。下面我们将通过一个真实的使用案例，来简单介绍 tcpcopy 的基本使用方法。我们假定读者对 tcp 以及路由相关基本知识有一定了解。
Mydbtest 估计很多人没有使用过，之前是楼方鑫在支付宝的时候的一个压测工具，可以根据业务模型 配置业务的sql，利用线上的数据备份进行压测的一款工具，推荐大家尝试使用。 7压测工具
如ppt上所言，每个工具各有千秋，大家在压测的时候需要选择最适合自己业务/目的的压测工具。不过我本人推荐使用mydbtest 工具，其足够灵活性，适配行更强。 8面临的问题
9更合理的压测工具在这里我提出的是一个设想，运维自动化足够高的公司可以向这个方向靠近。
1.1 根据业务需求制定压测计划
1.2 模拟线上生产环境
1.3 工具配置灵活
读写比 IUD的比例
跨机房调用多台app server 1.4 自动收集性能数据 QPS,TPS,RT 10总结这个是之前和叶金荣讨论关于性能压测的话题之后整理的思维导图。具体的地址在http://vdisk.weibo.com/s/dCZasgFETrgn/1445265070，涵盖数据库压测的所有内容。当然也有不足之处，欢迎大家给予建议和补充，能够使数据库压测结果更精准 ，为数据库性能/可用性评估提供有力帮助。 关于参考，这里我强烈推荐 dimitrik 大牛的blog ，里面汇集了各种压测场景和技术分析。 http://dimitrik.free.fr/ http://blog.itpub.net/22664653/viewspace-713075/ http://blog.itpub.net/22664653/viewspace-757735/ http://blog.itpub.net/22664653/viewspace-757506/ http://imysql.com/2012/12/21/pc-server-benchmarking.html 再次感谢前阿里数据库团队资深DBA杨奇龙老师，对DBA 社群活动给予的大力支持！ “DBA 社群”将陆续在各大城市群进行线上专题分享活动，以后每周一、周三晚上为【DBA 专业群】的固定时间，每周二、周四晚上为【DBA 各城市群】的固定时间，每周五晚上为【DAMS架构师精英群】的固定时间，欢迎大家积极加入我们。无论是内容还是形式，有好的建议我们都会积极采纳。 想入群的小伙伴们请关注DBA 社群微信公众号：dbaplus，回复“加群”即可。 小编精心为大家挑选了近日最受欢迎的几篇热文： 回复001，看丁俊的《【重磅干货】看了此文，Oracle SQL优化文章不必再看！》； 回复002，看吕海波的《去不去O，谁说了算？》； 回复003，看胡怡文《PG，一道横跨oltp到olap的梦想之桥》； 回复004，看郭耀龙《假事务之名，深入研究UNDO与REDO》； 回复005，看宋日杰《Oracle后台专家解决library cache锁争用的终极武器》； 回复006，看周俊《被埋没的SQL优化利器Oracle SQL monitor》； 回复007，看袁伟翔《揭秘Oracle数据库truncate原理》； 回复008，看郑晓辉《存储和数据库不得不说的故事》； 回复009，看丁启良《LINUX类主机JAVA应用程序占用CPU、内存过高分析手段》； 回复010，看黎君原《扒一扒Oracle数据库迁移中的各种坑》。 DBA 社群是全中国最大的涵盖各种数据库、中间件及架构师线条的微信社群！有100 专家发起人，建有15大城市微信群，6大专业产品群，多达10000 跨界DBA加入队伍。每天1个热议话题，每周2次线上技术分享，不定期线下聚会与原创专家团干货分享，更多精彩，欢迎关注dbaplus微信订阅号！ 扫码关注 DBAplus社群 超越DBA圈子，连接的不仅仅是DBA 本文转载自：微信公众账号 - DBAplus社群，版权归原作者所有！ |
|
声明：文章版权归原作者所有 部分文章转自互联网 如有侵权请联系
[邮箱地址] 删除
|
注册
登录
