更多的文章,访问我的个人博客:www.cesoo.info

性能度量的建立-让性能bug诊断更简单

上一篇 / 下一篇  2009-03-10 14:39:04 / 个人分类:性能测试

查看( 508 ) / 评论( 4 )

^*Pa:d[)_ \0 相信本文会对处于下面两种状态的测试工程师朋友会有所启发和帮助51Testing软件测试网/CGq!c*e

51Testing软件测试网-d"i@"RiCp0t

1. 正要但还没开始做性能测试的朋友,除了loadrunner,不知道从哪里下手

~e2MDs"ME2u051Testing软件测试网q8Le?Nw$?0A

2. 已经开始做性能测试,正在被一堆问题困扰得焦头烂额的朋友。51Testing软件测试网_/Fxl2d-^

51Testing软件测试网d jek {IXA!S

 51Testing软件测试网0{k\[C$R&rG

51Testing软件测试网K7C_3A`3S2Itk%L-|

听说过有的工程师运行几轮性能测试,就能迅速定位性能bug;更多地是听到某工程师运行N多次,就是不能复现问题,甚至整个研发部门开发人员测试人员齐上阵,都无法找到性能问题所在。这是为什么呢?是运气不好么?还是技术能力不强?

LV?'C Hi051Testing软件测试网6G)}/UX^r

说说我看过的一个真实的案例:某大型外企的产品上线后,当用户数超过某个值的时候,在线的软件系统就会重启。这是一个严重的bug,但非常糟糕的是,在测试环境里,测试人员无论如何,都复现不出这个bug,研发部门的老总调用了精兵强将,包括众多开发骨干,苦苦搜索一个多月,也都无终而归,最后的结果是企业最终失去了这个大客户。其实这样一个大型系统,面对这种问题,别说开发人员,就是比尔盖茨来了,也无济于事。

-HRF!Sr?6j@051Testing软件测试网S3?c1EN

显然这不是技术能力范畴内能解决的困境,怎样使得性能诊断变得更加容易和方便?这其实是一个软件开发要考虑的可测试性问题。51Testing软件测试网lcYc1_-V$p+V

1g*UM%b4w6Ee!C5^2`0对于性能测试来说,有必要在软件设计开发阶段遵守规范,建立一整套性能度量体系。体系包括51Testing软件测试网4f#yr,S `0GM ^

51Testing软件测试网(|M'w B O r o

1. 性能诊断日志51Testing软件测试网-H$| iE;u;x

8`7n"[{$C eBL~02. 在应用系统层次上建立性能度量51Testing软件测试网$ACP j |`.sFB

f0e$]j_+\V"N03. 数据库系统性能度量51Testing软件测试网$V'T7U2k/z'O:L T

Ao&[yMP~/P)E*r0 

Dl^\.v@051Testing软件测试网O~H6M!y3m&Q

性能诊断log包括一系列log等级设置和log格式,使得性能问题能够在log层次上被捕捉到,比如下面是一个SMPP协议网关实现的log

&@5L^;vg8I@!C051Testing软件测试网JiBL9O'y D O

TimeStatistic --------51Testing软件测试网ep8L#tUJ
Statistic name                     : EnquireLength51Testing软件测试网DSQ.eG P/C?z
Description                        : Time taken for a round trip ENQUIRE_LINK PDU.51Testing软件测试网[Rwb;v
Measurement unit                   : MILLISECOND51Testing软件测试网]O CV|f
Measurement start time             : 122421407488551Testing软件测试网:x)hXN4D*f1M{)]e
Last measurement time              : 1224219511193
q\9l&]S6~/R0# times the operation was invoked  : 351Testing软件测试网Z r.Q6lO0]2{
max time                           : 19
@UkB}9Y0min time                           : 1251Testing软件测试网"eiSI)E(x
total time                         : 46

YaW u$T3wY4u0

&DjpM%^^$v0在性能诊断模式开启后,软件程序就会每隔10秒钟打印如上信息,从以上信息可以很清楚地看到SMPP网管处理多少个PDU,每个PDU花了多长时间。这样会第一时间内捕获网管的性能处理效率。

6ST4i8c5Cv5B@5`%Y"R051Testing软件测试网.Y#[R:E]grU8A

 51Testing软件测试网VWC]I Q;lqB

51Testing软件测试网o MI#z(x*i3j,J

在应用层次上的度量多种多样,根据应用的不同,也有不同的度量方法。比如我们最常见的web 处理能力一般用每秒请求数(requests/second),每秒吞吐量(throughoutputs/second)。其实针对每一个应用,开发人员都应该建立相应的度量。

0Vs.q7v-Xmc051Testing软件测试网-Lf9AK kh

比如一个email 的IMAP server,我们为其建立如下度量

oizeInQK0

'e'd'pf`!l:i*i0 APPEND Average Time (milliseconds)

e0s N7yr051Testing软件测试网E2J.l.]&iA$f

 APPEND Failure Rate (Failures/minute)

ix)qRe051Testing软件测试网mP D!S8K Zc\

APPEND Rate (Requests/minute)

S$oA}QU0

B r6?,SH(vN/I0AUTHENTICATE Average Time (milliseconds)51Testing软件测试网3uJF0n$o f4i

51Testing软件测试网~"L.{{4cYU l

AUTHENTICATE Failure Rate (Failures/minute)51Testing软件测试网7@g#R,ar

51Testing软件测试网4\cWk5[CO3K\f

等等。51Testing软件测试网 k:V(vpOpg

51Testing软件测试网N%x:O }5xNh7J+n

一般地,度量要分为度量名,采集频率,预警值设置,预警信息等等。

.B"p:J#[iS ALc:K0

Vz^/_!z.I G0开发人员则遵循规范,在开发过程中实现以上度量信息的采集。

W/@ p)aD1X`0

V8u0n(M)|FVd$C0 

R.sE'| Av]6c,m0

M%oO*\.[0在建立一个完善的性能度量体系后,性能的诊断和定位就变得更加容易,也完成了定性分析到定量分析的转变。

(?Tr6?^ G)f0

{nLq&mOuXI0(有兴趣的朋友可以参看oracle的AWR报告,这是一个典型的基于度量的report)

nnw\3dW!Z:i0

TAG:

小楼一夜听春雨 断寒 发布于2009-03-10 16:02:09
说实在话,不是太明白.
L/HF7_*|$~!Xr T中国软件测试人的精神家园,介绍先进的软件测试工具、 软件测试流程和软件测试思想,定期举办软件测试沙龙,软件测试精品 资料下载,提供专业的软件测试培训服务在日常工作中,如果性能测试未能发现而实际出现错误的时候,一般会抓取详细的中间件\OS\DB\软件系统的相关详细日志用于分析,可基本定位问题点,然后根据实际情况做相应测试去重现,这些过程一般会迭代多次,基本可以细化到具体.
sunshinelius的个人空间 sunshinelius 发布于2009-03-10 17:03:00
一个性能诊断性良好的软件系统一定要通过日志或度量的方式给软件人员留下尽可能多的性能信息。51Testing软件测试网"ui7@?MuOa{
想想我们常用的性能测试瓶颈方法,如排除法,隔离法等等,通过运行不同场景,来判断哪个节点出了问题,在本质上都是黑盒测试,因为节点里的信息不够完整或透明。如果我们获得足够多的信息,完全可以一次运行,就能定位问题。8~h@;K:]J7@
中间件/DB/OS都提供了如oracle的top sql,MQ的message queue等度量,为什么我们的开发人员不能在开发应用程序的同时,也建立这样的度量接口呢? 实际上,应该在产品设计开发阶段,就要建立相应的日志规范和编码规范。
sunshinelius的个人空间 sunshinelius 发布于2009-03-10 17:06:24
呵呵,其实一些大型成熟的软件企业在开发团队内都有一套度量和日志规范。
如果Zee还在工作 Zee 发布于2009-03-11 18:16:20
说的很对。特别是对产品。
我来说两句

(可选)

Open Toolbar