质量严重程度标准和关闭原则
上一篇 / 下一篇 2014-06-11 09:49:52 / 个人分类:总结
51Testing软件测试网 DR+ehNDG.Wq
h%k/d"J7`p A,F0 51Testing软件测试网me#M? ]&u {!@4a-ze
51Testing软件测试网M:jh#e*~veQ我司现行关于产品质量问题严重程度的定义比较简单,可操作性不足,为了提高定义的可操作性,同时向业界标准靠拢,现调整产品质量问题严重程度的定义如下。51Testing软件测试网6Kq5y;_tk6t1K m_
$T8t Y3mh0问题严重程度级别判定原则:问题级别判定应该就重不就轻,当问题现象可能符合多个问题级别定义的描述时,应该选择级别最严重的作为最终的问题级别。以下的参考标准(举例)中,未给出统一的定量标准,是因为各类产品对不同功能和性能的重视程度不同,应该由各产品根据用户关注程度进行判定。各产品线可以根据下列原则性标准,制订各类产品的具体判定标准。
WN!L&t J3G051Testing软件测试网#IL8Pn*o/NW本标准主要适用于在集成测试、系统测试、α测试、β测试(试验局)、网上运行过程中发现的问题。对于单元测试及前期评审检视活动中发现的问题严重程度标准将另行定义。51Testing软件测试网j CMDr:S,hG
Q;Uviy-?l`\^)m7q0
P*v/^4y#W~051Testing软件测试网[m:e8j(Z^Wl 致命51Testing软件测试网,a*sn9w RJ
7Um(f$Vr0定义:产品的关键功能和性能不能符合用户要求,或由于设备质量原因造成业务中断、频繁瞬断或服务质量严重下降等可能给用户收益或声誉造成较大损失的问题。51Testing软件测试网5pwwn"mR
5Qs$tb_o-d3_C0举例:(包括但不限于下列情况)51Testing软件测试网I,qpYf
d dB,T(a e'@0(1)整机或关键部件异常重新启动或瘫机;
&h`z~|Gy051Testing软件测试网m.L }.l-xW(2)由于设备质量原因造成的基本业务失效、部分失效及不能稳定提供,基本业务例如附着、位置更新、路由区更新、切换、呼叫、短消息等业务,具体可以由各产品根据实际情况调整;
7Q4Wz7@;M2B2l;PT-n5E%qDg0x"N t"P W,rZOd8l0(3)话单无法生成,或丢失话单或话单错误并可能影响用户收益或声誉的;
{'m3pZ,A051Testing软件测试网)n'pL,T-C-x3I'i1~2B(4)重要操作维护功能完全失效,例如用户无法对系统进行操作维护或操作维护经常被打断,无法登记话统任务,无法对系统进行维护,告警功能完全丧失等;
X;Zd}/r'ZI0.EJb W0u)U*N?0(5)系统性能基于上一个版本下降10%以上并可能影响用户收益或声誉的;
(pyC9h5@ b9{3@y0XIo"M)E8P`*t0(6)按照版本升级指导书操作导致系统升级失败;
aW#S!TrF"A*^0+OnM*vxX5m0(7)其他可能造成业务中断、频繁瞬断或服务质量严重下降等可能给用户收益或声誉造成较大损失的问题,例如资源大量吊死、大量消息丢失、时钟丢失无法恢复等。51Testing软件测试网9o4}_-||9z0Vb;P
|y|#@4UzV+gnE0(8)产品不符合行业规范或目标客户群所在地区的相关标准,如果不解决将导致无法在该地区销售;51Testing软件测试网#VB:Vgu5n,Dp c
c0_jUZ&R!Tj~.L0(9)不符合安全规范,在遵守安全规程进行操作维护的情况下可能造成重大人身伤亡的问题;51Testing软件测试网 a"Fd Wr2D
rYT5D$Q}b&[x0说明1:系统关键部件由于异常原因发生倒换并且倒换成功,这种情况对用户应该说不会造成很大影响,但在实验室测试中,发生了异常重新启动说明系统中发生了非常严重的错误,因此仍建议作为致命问题;51Testing软件测试网2D$|J^f cc
0?a,g IY0说明2:关于XX软件的问题级别定义,若该软件不是作为独立的产品发布,例如XX,则对XX小概率死机问题,建议定义为严重,对频繁出现死机,影响用户正常操作的,则定义为致命。对于独立产品发布的XX软件,可以根据上述第二条自定义基本业务。
~4v8`YJN l0ZK_A,b6a#a RH,|W9H0说明3:关于(6),只要测试人员严格按照升级指导书操作,无论是指导书错误还是版本质量原因造成的升级失败,都作为致命问题,这主要是考虑到升级失败对用户的影响是非常大的。51Testing软件测试网0Oj~,K)Ag9A
_Z^X/N0 51Testing软件测试网 CRjz Js$m\M.Go
51Testing软件测试网(^B1n`-?:|?i51Testing软件测试网b.w.MOU]$DH
}e!Kc,`0l 严重
Q'l3fB l*W~-p0DQ f&a;e8ZF5{0定义:在产品规格书或行业标准规定的条件范围内,系统的主要功能和业务性能不符合用户要求,或不能稳定运行,但仍然可以向用户提供基本的业务。
4Snz$G1v/r([&e051Testing软件测试网TS3WPz-A:}J+j%r6H:V举例:(包括但不限于下列情况)
@VG8X#nl5xP051Testing软件测试网Usw)C"g5L9u(1)非基本业务功能失效或部分失效,例如跟踪任务无法创建或创建后没有输出、无法取日志、一个话统任务创建失败、故障告警没有上报;
(NHzt-q(dO051Testing软件测试网o1X[(dj R(2)基本业务功能在特定的不常见的条件下的失效,例如在某异常情况下的处理不符合协议;
J+J}i+]/p_ ]+a051Testing软件测试网r n,V&a7N(3)非关键性部件故障,例如监控系统故障、备板故障等,这些部件的故障不会影响用户使用基本业务;
l8L x%Q:dp2mD2Q2k051Testing软件测试网AyE.Zk*rP(4)系统数据丢失或出现不一致但不会给用户带来损失;
h'fv cY8Og051Testing软件测试网u-L1Pgz[a;?:L(5)系统未达到要求或设计的性能指标、系统或模块性能下降但不影响基本业务;
:Q6X*Gs]0[,QcF}X(aI(\6iL0(6)用户资料存在严重的技术错误或缺少重要技术内容;51Testing软件测试网4s4OcB)e-[g
51Testing软件测试网,`.S,n!Z]TH7}(7)其他各种可能对客户造成影响但尚未影响基本业务的问题,例如单板误码率较高但还能支持基本业务、资源吊死但能通过核查恢复、少量消息丢失等;51Testing软件测试网0t9q3]E^#X1\]
51Testing软件测试网U&bJLY;J%lx*M(8)部分主要功能操作很不方便,多数用户会认为这些操作方式显著影响工作效率;51Testing软件测试网G[5r0|6Pe
A$H7g/C Y%hw.A0(9)不符合安全规范,在遵守安全规程进行操作维护的情况下可能造成轻微人身伤害或设备损坏的问题;51Testing软件测试网m`ZwSOdL7`uT PJ
51Testing软件测试网1C-jG1VSOQbh说明:对于(1),如果理解部分失效,它和一般问题中(1)中一个特例失效的区别在什么地方。举一个例子,如果一个话统任务创建失败,我们认为这是话统功能部分失效了,这是一个严重问题;如果一个话统任务的某个指标统计结果不正确,则这是一个特例失效,应该是一个一般问题。51Testing软件测试网&Y4rETyE
51Testing软件测试网;|6`%fQ:Zc([Oz[1Q51Testing软件测试网*z9~;{NM
$Z^9^a x7c+@If0l 一般
QWmV-B1uE| Bj0I0&vI$SBbec l0定义:部分次要功能失效或性能略有降低,但不会造成用户收益或荣誉受损失;51Testing软件测试网)|*F-YZ)r5_ IA/h5WP
JvL cf8@0举例:(包括但不限于下列情况)51Testing软件测试网C]vw&}Y\&P%x;O
B}Fd&EA l/iE0(1)非基本业务功能的一个特例失效,例如某条跟踪消息无法解释、某个话统指标统计结果不正确、参数未检查但未造成严重后果;51Testing软件测试网0wv^nA&m
.^L-{(qO&CM/u0(2)出现异常告警/断言等但没有影响系统的正常运转;
%V'U W#}*d9o+nHL051Testing软件测试网D4C5N!d/Wf(3)帮助文档少量内容缺失,用户文档及界面提示中存在一些不会造成严重后果的技术错误,翻译错误;
5@L$U T6OhF HV051Testing软件测试网 z j+D q2XL(4)不符合公司编程规范(必须遵循部分);51Testing软件测试网^ I4mr*puta
dC5c$v9Q0a^+n\&[kU0(5)其他不属于致命/严重的功能失效或性能降低的问题;
.E|(gwZjzlf051Testing软件测试网6m.OAe4l_N A(6)部分次要功能操作不方便;
/WFqdje0N3b R2z {9t0(7)在某些罕见或外界强烈干扰情况下(不包括外部灾难情况)会出现短暂的次要功能失效,且能够自动恢复;51Testing软件测试网0ZI'f6W L
51Testing软件测试网$cT0s|&od7JR6b*i说明:话统是用户用来衡量比较设备运行情况一个重要信息,因此一些关键指标的不正确通常会引起客户的高度重视,因此这些指标的不正确仍应该定为严重问题。但对没有实际网上应用经验的产品来说要定义关键指标是困难的,而话统指标又非常多,因此我们暂时把此类问题描述到一般问题中,请各产品在具体操作中掌握。
(DjBq/|zB)F051Testing软件测试网9C&b#\AIv5| k51Testing软件测试网}T-DdP{!j Y
51Testing软件测试网:N-Y6jYY;Jd+jOl 提示
2rO#j8C a#[oj5s0(j+_$a$p1QCj/B0定义:系统功能可以正常运行,但存在不影响功能正常完成的操作、理解上不合理的的问题。51Testing软件测试网'{urE|p3]x#}Z8G
51Testing软件测试网a \/y%{X*s@J举例:(包括但不限于下列情况)
+e0K0jGGH8za8m051Testing软件测试网{&u+F2X[|0d&o(1)用户界面文字排版风格问题;51Testing软件测试网 X9t h3{a,q0R/|v3kQ
51Testing软件测试网3qW9J{)i3E(2)帮助文件或提示信息可读性差、用词不当、错别字及不易于理解;
piZP-s-wS&D051Testing软件测试网8eK u~/i?|(3)操作维护功能使用不方便,无效命令或信息冗余,并且不方便的程度很轻微;
"dJ2]8Gj*v Lj051Testing软件测试网qE{#Df/m` et0j.i:l#Y"Z V(4)不符合公司编程规范(建议部分);51Testing软件测试网.N7e}-S6u0W
+pR)OdD V0(5)其他不属于致命/严重/一般的问题;51Testing软件测试网(j5\}*?,o m.M
51Testing软件测试网b0JSY/iw|7X51Testing软件测试网y;Wc$j5n.|2v
51Testing软件测试网1igFI@[$l;n9Cl8A1mY&@051Testing软件测试网-D3Pc6y*q
{9wvke2H0问题单关闭原则
^_e)Sw7Z|'\R0
#}(d h!A \(?X X051Testing软件测试网*r:]$tY&muz$m-woYK];y2N6|051Testing软件测试网R Z b-O%o:m:qTZ!c.Eg
一、适用范围51Testing软件测试网 KYw\#y&^q*a,Uy(j
51Testing软件测试网r'p0`L-M X-{T VO本原则适用于在产品研发过程中通过“CMM过程库-缺陷跟踪”电子流进行闭环管理的所有问题单,包括但不限于开发组、测试组、制造组提交的问题单。
9{WRi9p5I+|W051Testing软件测试网G+y`qQ k)Ob51Testing软件测试网y#b.]h u
EN+F\xMe1]9G0二、处理原则
K6A'DbF&|2~0l r+@P$Z01、问题单必须通过回归测试,验证问题已经解决,并且没有产生新问题的情况下才能正常关闭。关闭问题单只能有两个情况:问题解决正常关闭和非问题关闭。
2}|5kqmx0ZE ?C._ FX0 特别说明:在现行CMM电子流中,没有“无法解决”这种状态,所以在实际操作中用“无法解决关闭”状态来代表。“无法解决关闭”状态的问题单不算关闭,仍然算未解决的遗留问题。计划2003年6月份推行的新版本CMM电子流中将取消“无法解决关闭”状态,改成“无法解决”状态。
7b^7ys1GBZt,dSC051Testing软件测试网$n5}!jsGcLNG8h3C9f}4E3NN `051Testing软件测试网II&]` nA4^Fy1[
2、以下几种情况下的问题单可以由测试经理进行挂起。51Testing软件测试网S8_!f&pu
vgq3E}0 (1)超过3个月不能重现的问题经过CCB评审后允许挂起。51Testing软件测试网.T]5H9M7lQu1xi^
51Testing软件测试网9z|(eac'@U/f2v(2)经产品决策评审以后决定在后续B版本解决的问题,可以先挂起,等新的B版本发布以后再激活解决。
,M7~yd)_c.X06P|(E4TJ_mtm0 特别说明:问题挂起的主要目的在于进行一个标记,以提高项目组每周例行问题分析的效率。挂起的问题不能算解决,仍然算遗留问题。挂起操作必须由测试经理在CCB授权下统一操作。
f{2R%oc!w051Testing软件测试网S PKA/T6W51Testing软件测试网`7E%jiI]A%]/b[
51Testing软件测试网)x#SLw4|%n$i3、以下几种情况下的问题单可以由问题提交人根据产品级CCB的授权进行“无法解决关闭”操作。
"e'l7j&aI051Testing软件测试网!p8~"x%y{7k?(1)如果问题单的解决需要修改直接借用的老代码、老单板,而老代码、老单板在网上长时间运行证明比较稳定,如果修改质量风险比较大的情况下,此类问题单可以经CCB评审后进行“无法解决”处理,并对流程进行“无法解决关闭”的操作。(建议操作标准:老代码要求发布时间大于2年,网上运行量大于100套;老单板要求发布时间大于2年,网上运行量大于200PCS。)
i*l$D)c0Z{#{0(vX]do!G)udp0 (2)因产品所采用的操作系统、体系结构、关键套片的缺陷等原因,使解决问题单的投入产出比很小的情况下,进行“无法解决”处理,并对流程进行“无法解决关闭”的操作。这种情况下进行“无法解决关闭”的前提是问题不是致命问题,且问题的风险经过了充分的评估。51Testing软件测试网]J(B4`&B_ xs
51Testing软件测试网)JR!@5c5J$Ei{ e(3)经过风险分析和产品级CCB评审以后决策在本R版本不解决,计划在下一个R版本解决的非致命问题单,可以进行“无法解决”处理,并对流程进行“无法解决关闭”的操作。51Testing软件测试网NTk5Hw @K}7?%O
:]\M[Vw:E8E-c0 特别说明:“无法解决关闭”状态的问题单不算关闭,要计算遗留问题。“无法解决关闭”只是一个状态标记,其目的对遗留问题进行区分分层,提高问题分析效率。
-U+vl$jeY(Or;vW051Testing软件测试网s-}w,WA m.swd-zK9s%N;W1@051Testing软件测试网l-lqAW}
4、本R版本无法解决的问题,需要在后续R版本中解决的,无论问题在新R版本中能否解决,其在低R版本中的问题单都不能以在下一版本解决的理由进行删除或正常关闭。51Testing软件测试网$PSR!N3E7a
51Testing软件测试网*~kW g/M6a本B版本无法解决的问题,需要在后续B版本中解决的,只有在新发布B版本中验证解决以后,才能关闭原问题单。
K V*O8Vp{?0i*l7a)C4Z!|0 51Testing软件测试网(T4j$~Kk4CW b]#?&L
51Testing软件测试网PAcQy`9w etm5、平台产品的问题:业务产品上的问题单如果涉及到平台产品的,需要复制到平台产品问题单库中,在统计问题单的解决率和遗留问题时两边都要算。
E4meJv'p6p051Testing软件测试网/cJH z,j51Testing软件测试网B|u)a,{
-K2d{'ES06、规避措施: 对问题仅有操作层面规避措施(需要人为干涉)的不能算解决,也不能作为问题降级的理由。实现了自动规避措施的算解决。51Testing软件测试网sP&x/D[6izr
51Testing软件测试网BR9@0?Xg0N.VM51Testing软件测试网0N4]q8kx1ydXV
51Testing软件测试网X8yD2K$j#LPug Z1`7、产品标准遵从: 对于产品不能满足国内、国际产品标准的问题,如果在规格书中没有明确说明,但实际又不遵从标准项,要算问题单。51Testing软件测试网^@UZ At+B"Z
)Y}(Y:P"u7l)d+hg0V%UC0
aP2]fM_G_051Testing软件测试网QXX.?n7^/X.C8、规格和需求定义:规格书中有明确定义不支持的需求不算问题。 规格书中没有明确定义,但从客户的角度看对产品稳定性、对使用效果有比较大影响的需求如果没有实现要作为缺陷并记问题单。
iU6ro|;J%@$T051Testing软件测试网;}{mk|H7eX[\j0`2sc ZB9D0
8h#y,L)e q;ANVtl*~s09、对于经过努力仍然长期不可重现的问题,在CCB评审以后,可以作为非问题进行关闭。原则上不重现时间要超过6个月的问题单才能以非问题进行关闭。非问题关闭由测试经理根据CCB的决议进行统一操作。
x Jjo-j KF,ui `m08C9K+@h y:w0
#a,g&@ CP'}F g%T0"N"u!? lp^T8zFS$[0三、操作方法51Testing软件测试网Wt"F#z0XdO*{3E
51Testing软件测试网8P"f!m @wR#tE1、本原则由测试部、测试中心及各PDT测试经理负责监控执行。51Testing软件测试网*r ~:BH6V"Wk!^L
nweyEY02、各质量部、测试部等在计算问题解决率的时候,对挂起的问题单、“无法解决关闭或无法解决”状态的问题单仍然要算遗留问题。51Testing软件测试网,D-}SFAr;Vz
U&M5yp&FR\ e0 挂起的问题单和“无法解决关闭或无法解决”的问题单算已经开发答复。问题解决率的责任对象为PDT,问题答复率的责任对象为开发组。51Testing软件测试网W%P3FQl9l-U3y\
,Z2ZO#f(Ldu:O03、在版本发布和技术评审等活动中需要计算遗留问题次级的时候,对挂起问题的严重程度经风险分析后可作适当的降级处理。
@QBS*j.X9ci;J/|0i#@*Vl(d;b*^G04、测试质量部、各业务部质量部负责对本原则的执行进行例行审计,对审计中发现问题的PDT给予通报批评,PDT测试经理要承担连带责任。公司质量管理部负责进行不定期审计活动,发现问题的通报研发管理办处理。51Testing软件测试网 wq;[*o A n nM:t"un
51Testing软件测试网X&bt ^{/iP