软件可靠性测试(转贴)

航天工业总公司二院204所 周新蕾 缪峥红51Testing软件测试网\ Yy v`b$s*eo&T
一、对软件可靠性测试的认识
t(M BM-x8N7BC0
#_e%i.G,?
cvH01.有关术语
1^K}!c4Eg@0(1)软件可靠性 在规定条件下,在规定时间内,软件不引起系统失效的概率。该概率是系51Testing软件测试网y3ul
d,r#{rt,o
统输入和系统使用的函数,也是软件中存在故障的函数,系统输入将确定是否会遇到存在的故51Testing软件测试网 Ior'sm;P"H!t
障。51Testing软件测试网:I~o^a:C
(2)软件可靠性估计 应用统计技术处理在系统测试和运行期间采集、观察到的失效数据
}"[)j/Y/xvb0,以评估该软件的可靠性。
5v3P as
A8f!Tn \b.\0(3)软件可靠性测试 在有使用代表性的环境中,为进行软件可靠性估计对该软件进行的51Testing软件测试网2i[H%T*hv|q
功能测试。51Testing软件测试网w+m4}H
u*p6q
需要说明的是,"使用代表性"指的是在统计意义下该环境能反映出软件的使用环境特性51Testing软件测试网v}X1xX6G/Ld4e dz
。51Testing软件测试网Xc2W^!J?
51Testing软件测试网7]O#QJQ-eA__n
2.软件可靠性测试的目的
R"~5rS@*HZnW i-L0软件可靠性测试的主要目的有:51Testing软件测试网+f!Xv2Pc*w$Q1n$}`
(1)通过在有使用代表性的环境中执行软件,以证实软件需求是否正确实现。
eT
H5Fd/A9w0(2)为进行软件可靠性估计采集准确的数据。估计软件可靠性一般可分为四个步骤,即数
a%mU+||0据采集、模型选择、模型拟合以及软件可靠性评估。可以认为,数据采集是整个软件可靠性51Testing软件测试网P5o%n\H[_ gz
估计工作的基础,数据的准确与否关系到软件可靠性评估的准确度。51Testing软件测试网(x9D7ac)`&PG!qs
(3)通过软件可靠性测试找出所有对软件可靠性影响较大的错误。51Testing软件测试网.V4s9aP1Ji2y[.q
51Testing软件测试网cU uqu
3.软件可靠性测试的特点
|pO&fBz'k0软件可靠性测试不同于硬件可靠性测试,这主要是因为二者失效的原因不同。硬件失效51Testing软件测试网 K4OI1j:q
一般是由于元器件的老化引起的,因此硬件可靠性测试强调随机选取多个相同的产品,统计它
8o1beer5R4Z%\0们的正常运行时间。正常运行的平均时间越长,则硬件就越可靠。软件失效是由设计缺陷造51Testing软件测试网|;o t2\z
成的,软件的输入决定是否会遇到软件内部存在的故障。因此,使用同样一组输入反复测试软51Testing软件测试网~;z0W,X+f(dW)O9L
件并记录其失效数据是没有意义的。在软件没有改动的情况下,这种数据只是首次记录的不51Testing软件测试网$Zey5c9}?MG6R4l
断重复,不能用来估计软件可靠性。软件可靠性测试强调按实际使用的概率分布随机选择输51Testing软件测试网!K1n$CuScc1e0VlJ
入,并强调测试需求的覆盖面。51Testing软件测试网b+}/X&VAr'G e
软件可靠性测试也不同于一般的软件功能测试。相比之下,软件可靠性测试更强调测试
0zW \a-XO+W0输入与典型使用环境输入统计特性的一致,强调对功能、输入、数据域及其相关概率的先期51Testing软件测试网)q"Q(BVd
识别。测试实例的采样策略也不同,软件可靠性测试必须按照使用的概率分布随机地选择测51Testing软件测试网x
y%zp+y5m*[
试实例,这样才能得到比较准确的可靠性估计,也有利于找出对软件可靠性影响较大的故障。51Testing软件测试网VGg@R
此外,软件可靠性测试过程中还要求比较准确地记录软件的运行时间,它的输入覆盖一般也要51Testing软件测试网e#B?]u"B+v
大于普通软件功能测试的要求。51Testing软件测试网/zrS8TE(SIw
对一些特殊的软件,如容错软件、实时嵌入式软件等,进行软件可靠性测试时需要有多种
1V6HO1U?\QA au
u)O0测试环境。这是因为在使用环境下常常很难在软件中植入错误,以进行针对性的测试。51Testing软件测试网7Xk[r3M)^

8sYQ zEt04.软件可靠性测试的效果
Q~"~GX0软件可靠性测试是软件可靠性保证过程中非常关键的一步。经过软件可靠性测试的软件51Testing软件测试网%Hi!S']A
并不能保证该软件中残存的错误数最小,但可以保证该软件的可靠性达到较高的要求。从工51Testing软件测试网"i0e8N8h{HQ sz
程的角度来看,一个软件的可靠性高不仅意味着该软件的失效率低,而且意味着一旦该软件失
V'p1z4WS9LM0效,由此所造成的危害也小。一个大型的工程软件没有错误是不可能的,至少理论上还不能证51Testing软件测试网 |8wB]%u\i9R
明一个大型的工程软件能没有错误。因此,保证软件可靠性的关键不是确保软件没有错误,而51Testing软件测试网 }2CQB\
是要确保软件的关键部分没有错误。更确切地说,是要确保软件中没有对可靠性影响较大的51Testing软件测试网&Q4lJ%o
B
错误。这正是软件可靠性测试的目的之一。
nRT-X1R$^0软件可靠性测试的侧重点不同于一般的软件功能测试,其测试实例设计的出发点是寻找
5A4P;TbY5PrM`V0对可靠性影响较大的故障。因此,要达到同样的可靠性要求,可靠性测试比一般的功能测试更51Testing软件测试网xb+}%z Qw7w!Dd
有效,所花的时间也更少。
YVzvuL3]0另外,软件可靠性测试的环境是具有使用代表性的环境,这样,所获得的测试数据与软件
!S$UhiIl0的实际运行数据比较接近,可用于软件可靠性估计。51Testing软件测试网&T]:V\:OT:] j
总之,软件可靠性测试比一般的功能测试更加经济和有效,它可以代替一般的功能测试,
J+kJ5F;Z+vLBI0而一般的软件功能测试却不能代替软件可靠性测试,而且一般功能测试所得到的测试数据也51Testing软件测试网u(Z$^+^g@
不宜用于软件可靠性估计。51Testing软件测试网vd2udE.d
51Testing软件测试网#Zy"y%TH+Oj} d
二、软件可靠性测试中需注意的问题51Testing软件测试网z2H(O8X3Z} PEy"]*M
软件可靠性测试一般可分为四个阶段:制定测试方案,制定测试计划,进行测试并记录测51Testing软件测试网"J0u7x#`J2q L:th
试结果,编写测试报告。
,N3_7u9D/H|m$@0制定测试方案时需要特别注意被测功能的识别和失效等级的定义。制定测试计划时需设51Testing软件测试网)JKt+EV2B Q
计测试实例,决定测试时要确定输入顺序,并确定程序输出的预期结果,这时也需注意测试覆51Testing软件测试网.c#o&q4w.T
盖问题。
M#vcX8g051Testing软件测试网
@%VT&o.s9AP4Wp
1.功能识别51Testing软件测试网/{+l5ft1g
软件可靠性测试的第一步就是进行功能识别,确定使用剖面。功能识别的目标是:识别所
YqF,p/bJ(|'r.{(Y0有被测功能以及执行这些功能所需的相关输入,识别每一个使用需求及其相关输入的概率分51Testing软件测试网'dG EN8?
布。51Testing软件测试网1MG*CBJ IQV,e
为达到第一个目标,需要分析软件功能的所有集合,这些功能之间全部的约束条件,功能51Testing软件测试网%Z9@-{{"XG6wi
之间的独立性、相互关系和相互影响,还需分析系统的不同运行模式、失效发生时系统重构51Testing软件测试网,]
mzMK0e4tJOL
策略等对软件运行方式有较大影响的因素。51Testing软件测试网(O;j3u0YRl(GB
第一个目标也是一般软件功能测试需要达到的目标,但第二个目标则是软件可靠性测试
(Jy6S}4O;eCtF0特别强调的。为了得到能够反映软件使用的有代表性的概率分布,测试人员必须和系统工程
+|8QJ8N5b0师、系统运行分析员和顾客共同合作。需要指出的是,由于可靠性的要求,输入数据的概率分51Testing软件测试网j'enp~2L
布应包括合法数据的概率分布和非法数据的概率分布两部分。有时为了更好地反映实际使用
fQBQL;r8\0状况,还需给出那些影响程序运行方式的条件,如硬件配置、负荷等的概率分布。
o Yi1m[;H2^051Testing软件测试网T5[?IcP8g6n$I
2.定义换效等级
kKqz5u|a0定义失效等级主要是为了解决下面两个问题:
Q Z){/Z?GNI0·对发生概率小但失效后危害严重的功能需求的识别。
:q;KF"a*h]0·对可不查找失效原因、并不做统计的功能需求的识别。51Testing软件测试网-e%C&?fPV8m\
在制定测试计划时,失效及其等级的定义应由测试人员、设计人员和用户共同商定,达成51Testing软件测试网^9{
J G0n'cy
协议。一般的等级定义如表所示。51Testing软件测试网}}#ZH CQ;V,dT
@@16115000.GIF;表1 失效等级定义@@
}"nG#n l$qV0如果存在1级和2级失效可能性,那么就应该进行故障树分析,标识出所有可能造成严重失51Testing软件测试网)fwrg6ok(nlop
效的功能需求和其相关的输入域、外部条件和发生的可能性。
{*aE6mX7rU2O6bF0对引起1级和2级失效的功能需求及其相关的输入域必须进行严格的强化测试。对引起351Testing软件测试网z4{H+r,x*^ Kf il_w
级失效的功能可按其发生概率选择测试实例。第4级失效可不查找原因,可在以后的版本中处
J'W(p#a[;X:k7n7KKr0理。
ze/@8x~J!^0
)CO!\:e s#wag03.可靠性测试覆盖
"Qp^-S4i`XN0可靠性测试必须保证输入覆盖和环境覆盖,这是准确估计软件可靠性的基础。
C6Uq
Dp5@g l0输入覆盖包括下面几个内容:51Testing软件测试网(daLVAbv?#Z
·输入域覆盖,即所有被测输入值域的发生概率之和必须大于软件可靠度的要求。
-Esom2{E1L0·重要输入变量值的覆盖。51Testing软件测试网;NW@,P#M"l
·相关输入变量可能组合的覆盖,以确保相关输入变量的相互影响不会导致软件失效。51Testing软件测试网x)NHK0C'u,@"kx.W
·设计输入空间与实际输入空间之间区域的覆盖,即不合法输入域的覆盖。51Testing软件测试网_P6WA][Kq$RR5x
·各种使用功能的覆盖。
viP-t%E9_r9e{0环境覆盖是指测试时必须覆盖所有可能影响程序运行方式的条件。
1{"n9m5V H0
6xSiR{,jy/x0三、软件可靠性测试的步骤51Testing软件测试网 p!]Mmk-d
软件可靠性测试分为四个阶段:
b7cn)X3?;|^3uy0
#TQt1eb01.制订测试方案51Testing软件测试网 gbR1EfR
本阶段的目标是识别软件功能需求,触发该功能的输入和对应的数据域,确定相关的概率51Testing软件测试网ZCjJMy$Z?C
分布及需强化测试的功能。51Testing软件测试网.i#~%r.CzC,p$V0a7XM
以下是我们推荐的步骤。在一些特定的应用中,有的步骤并不是必须的。51Testing软件测试网/p6s~!S u}X5B
(1)分析功能需求 分析各种功能需求,识别触发该功能的输入及相关的数据域(包括合法
!x BK(G4v8SM [0与不合法的两部分)。分析时要注意下述问题:
? \?cvb A9K
^0·该软件是否存在不同的运行模式?如果存在,那么应列出所有的系统运行模式。
8w:_xw-L?'g0·是否存在影响程序运行方式的外部条件?如果存在,那么有多少?它们的影响程度如何51Testing软件测试网2G1{j Fm!^1tT;yz
·各种功能需求之间是相互独立的还是相关的?如果相关,是密切相关还是部分相关?如51Testing软件测试网$@;]9dN foX4H
果两种功能密切相关,那么可将两种功能合并为一种功能。如果功能之间为部分相关,则需列51Testing软件测试网.\G(h,PIp*\
出相应输入变量的合法组合。
e/w3D.x B'Nd T
H0(2)定义失效等级 判断是否存在出现危害度较大的1级和2级失效的可能性。如果这种可
`q6VG^2[?0能性存在,则应进行故障树分析,标识出所有可能造成严重失效的功能需求和其相关的输入域
O%~4O X,XTb%e[0。51Testing软件测试网 P4~/I$H0j
m8T0dJP;H
(3)确定概率分布51Testing软件测试网f2|Nw0tq k
·确定各种不同运行方式的发生概率,判断是否需要对不同的运行方式进行分别测试。
.Mo,MvA'|:}$nD0如果需要,则应给出各种运行方式下各数据域的概率分布;否则,给出各数据域的概率分布。51Testing软件测试网a}Ec
IwP`B
·判断是否需要强化测试某些功能。51Testing软件测试网Bw3DWE|] L
(4)整理概率分布的信息 将这些信息编码送入数据库。
3T9nVWx/E#gV!N051Testing软件测试网#_7r$ej\{'\\:Q\i
2.制订测试计划51Testing软件测试网a'P8X9s ^s8O
本阶段的目标是:
zr8NsSO0(1)根据前一阶段整理的概率分布信息生成相对应的测试实例集,并计算出每一测试实例
)e-m%fF+X;i&o0预期的软件输出结果。51Testing软件测试网UU\eOJ+Bx
本阶段需要注意:在按概率分布随机选择生成测试实例的同时,要保证测试的覆盖面。51Testing软件测试网&}e:Q/~|9H6F
(2)编写测试计划,确定测试顺序,分配测试资源。由于本阶段前一部分的工作需要考虑51Testing软件测试网+V)`,LCm HN|6o
大量的信息和数据,因此需要一个软件支持工具,建立数据库,并产生测试实例。另外,有时预51Testing软件测试网i(Wg4m:jI#k:{
测软件输出结果也需要大量的计算,有些复杂的软件甚至要用到仿真器模拟输出结果。51Testing软件测试网%Q-?#t+|&e ml2@
总之,具体实施与被测应用软件的实际功能类型有关。
'O t6n*q\&x n`0
q/o du#cak#H8U03.测试51Testing软件测试网i?f1o-xAk]
本阶段进行软件测试。需注意的是被测软件的测试环境(包括硬件配置和软件支撑环境
7c i sIO#Bm0)应和预期的实际使用环境尽可能一致,对某些环境要求比较严格的软件(如嵌入式软件)则应51Testing软件测试网Fw+orc;h
完全一致。
'Q$GO+r6i@+{?0测试时按测试计划和顺序对每一个测试实例进行测试,判断软件输出是否符合预期结果51Testing软件测试网 W&|U2f\-ZT+@
。测试时应记录测试结果、运行时间和判断结果。如果软件失效,那么还应记录失效现象和51Testing软件测试网.M$z)S6sG%}s:JN g
时间,以备以后核对。51Testing软件测试网1rE]/XT7u;r,]
v
51Testing软件测试网S
AVi&b
y
4.编写测试报告51Testing软件测试网v Rh$qz!YIEHb
按软件可靠性估计的要求整理测试记录,并将结果写成报告。51Testing软件测试网_1k^|2Z `A1|
笔者认为,软件可靠性测试的关键在于:51Testing软件测试网Q$yd!zCC
Y
·对需求、输入、数据域的识别及相关概率分布的确定。
1J(M{Q%{z^0·按照概率分布随机生成测试实例,并确定测试顺序。
|]Vv6n8N!s}C0据国外有关文献报导,这种测试方法已成功应用于大量应用软件的可靠性测试,包括一些
&}8C.a whg)Ua0商用软件和航空、航天电子设备中嵌入式软件的测试,其效果很好。因此,我们有必要投入一51Testing软件测试网2Ex!i:NR
定的人力、物力,针对我们的实际需要,有目的地对各类应用软件进行软件可靠性测试,从实51Testing软件测试网w c W|1|t
践中逐步积累经验。同时需要软件开发方和使用方共同合作,进行软件可靠性测试方法的研
g$}B#s(b[O@0究和有关支持工具的开发,促进我国软件可靠性水平的提高。51Testing软件测试网*gS3GxQT9u*I
51Testing软件测试网6{#O M1rv:QS

（计算机世界报 1997年 第16期）

'a/^\_fFhM0

(qX;t@\Yb6mY0 51Testing软件测试网%x r {W9E(@]2?;Z#|