发布新日志

  • 软件上线后出现bug是测试的责任?

    2008-08-14 10:56:23

       对于在目前公司的情况下,测试一直处于弱势。。。。项目成功上线了,是开发的功劳,开发做的好,如果项目上线以后一旦出现问题,就是测试没测出来,连性能问题也这样归咎于测试

       其实每个测试人员都清楚完全测试是不可能的,并且bug是开发人员写出来的,作为测试qc来说只是做质量控制,对于项目质量水平,还得需要广大群众的力量,其中包括质量保证人员,和项目经理,开发人员共同努力。

       首先在项目的设计阶段就需要高水平的开发人员做一个很好的设计规划,最好由架构师完成,为高质量的软件打好基础(目前公司是待着谁是谁,造成后期很多设计问题影响到系统的性能,需要造成很大的改动,缺少这方面的优秀人才)

       对于整个项目过程需要qa好好的把控,对于目前的开发模型都采用的是瀑布型。。。。每个阶段的输出文档需要严格的检查(这点做的也很不好,每次需求文档都不能定下来,而且在项目编码开始以后还在变来变去。并且不走变更,这一点很不好,也许需要考虑用其他模型,比如说快速模型)

       做好每个阶段的评审,评审是发现问题的一个很好的方法(目前公司这一点做的也很不到位,需要评审的时候,找到相应的文档,邮件发给需要的人,结果review各自完成,反馈信息,不知其他公司的review怎么做的,这样review很多人都不看,导致review一般不会发现问题,其实条件不具备的情况我觉得也应该做到需求的review,目前根本无法达到,测试用例就更不用说了)

       良好的版本管理和送测流程,这个是保证质量又一个关键的问题,需要对于稳定的版本打基线,这个可以控制经常出现的,开发送测的版本和自己修改的版本不一致,测试发现的问题,开发那里已经修改的问题。还可以保证开发

       到后来上线发现了问题,就是测试没测出来啦。。。。。对于目前的状况其实各个阶段基本的质量流程难以保证,软件质量当然是个问题啦!不过不能就此成为上线测试推卸责任的理由,作为一个测试工作者来说,我还要收集一下各方面的数据,对于自己漏测的问题找出设计用例的缺陷,更加完善自己的测试思想和设计思路,夯实基础。

       

  • qtp检查弹出对话框内容的方式

    2008-08-08 10:30:58

         这两天用qtp决定做个简单登陆的脚本,于是在163邮箱上做了一个实验,这个试验中主要熟悉了对弹出对话框检查的实现方法,涉及的测试用例有这样
    1、不输入用户名和不输入密码--》点击登陆
    2、输入用户名,但不输入密码--》点击登陆
    3、输入用户名,输入错误的密码--》点击登陆
    这三个动作结果不同,1、2种操作点击登陆后,页面会显示对话框,显示正确的提示:
    1、弹出对话框显示用户名不能为空
    2、弹出对话框显示密码不能为空
    3、进入登陆失败页面,显示用户名或者密码错误,并且可以重新登陆
    对于第三种错误信息的检查我们可以直接在web页面上设置文本检查点,但是对于弹出对话框,我却不知道怎样解决
       于是下来查了一下这方面的资料,可以用static("**").GetROProperty("test")得到弹出框内容于是生成下面代码
    if  Browser("网易163免费邮--中文邮箱第一品牌").Dialog("Microsoft Internet Explorer").Exist(1) then
       error_message=Browser("网易163免费邮--中文邮箱第一品牌").Dialog("Microsoft Internet Explorer").Static("请输入您的用户名 ?").GetROProperty("test")
           If error_message="请输入您的用户名 ?" Then
           ........
        但是出现了问题,虽然在object spy里面可以看到static的test属性值,但是程序总不能正确执行,我在给error_message赋值后,检查是否取道,做了一个msgbox(error_message)发现取值为空,很奇怪,最后想到很有可能是GetROProperty取的test的属性在运行中没有值,于是发现还有一个属性也是显示的"请输入您的用户名 ?" ,于是试了一下,代码修改成如下
    if  Browser("网易163免费邮--中文邮箱第一品牌").Dialog("Microsoft Internet Explorer").Exist(1) then
       error_message=Browser("网易163免费邮--中文邮箱第一品牌").Dialog("Microsoft Internet Explorer").Static("请输入您的用户名 ?").GetROProperty("regexpwndtitle")
           If error_message="请输入您的用户名 ?" Then
           ........
    又运行了一遍,成功,至此这个问题解决
        解决后,又发现还有一个方式取到弹出框的值GetVisibleText,则第二段代码试了一下,一次成功
    总结:检查弹出对话框的内容有两种方式
    1、取动态运行属性值
    2、用vb函数GetVisibleText
    其实第二种方式更简单,不用去查看弹出对话框的属性了。至此登陆对话框的脚本修改完毕,现在放上检查弹出对话框的所有代码
    if  Browser("网易163免费邮--中文邮箱第一品牌").Dialog("Microsoft Internet Explorer").Exist(1) then
       error_message=Browser("网易163免费邮--中文邮箱第一品牌").Dialog("Microsoft Internet Explorer").Static("请输入您的密码 ?").GetVisibleText(top)
           If error_message="请输入您的密码 ?" Then
            Browser("网易163免费邮--中文邮箱第一品牌").Dialog("Microsoft Internet Explorer").WinButton("确定").Click
      else
      Browser("网易163免费邮--中文邮箱第一品牌").Close
        End If
     else
            Browser("网易163免费邮--中文邮箱第一品牌").Close
    end if
  • 理解Load Average做好压力测试(转载)

    2008-08-05 14:25:26

    收集的东西觉得很好                

    发布时间: 2008-8-01 16:42    作者: 文初    来源: CSDNBlog

    SIP的第四期结束了,因为控制策略的丰富,早先的的压力测试结果已经无法反映在高并发和高压力下SIP的运行状况,因此需要重新作压力测试。跟在测试人员后面做了快一周的压力测试,压力测试的报告也正式出炉,本来也就算是告一段落,但第二天测试人员说要修改报告,由于这次作压力测试的同学是第一次作,有一个指标没有注意,因此需要修改几个测试结果。那个没有注意的指标就是load average,他和我一样开始只是注意了CPU,内存的使用状况,而没有太注意这个指标,这个指标与他们通常的限制(10左右)有差别。重新测试的结果由于这个指标被要求压低,最后的报告显然不如原来的好看。自己也没有深入过压力测试,但是觉得不搞明白对将来机器配置和扩容都会有影响,因此去问了DBA和SA,得到的结果相差很大,看来不得不自己去找找问题的根本所在了。

      通过下面的几个部分的了解,可以一步一步的找出Load Average在压力测试中真正的作用。

      CPU时间片

      为了提高程序执行效率,大家在很多应用中都采用了多线程模式,这样可以将原来的序列化执行变为并行执行,任务的分解以及并行执行能够极大地提高程序的运行效率。但这都是代码级别的表现,而硬件是如何支持的呢?那就要靠CPU的时间片模式来说明这一切。程序的任何指令的执行往往都会要竞争CPU这个最宝贵的资源,不论你的程序分成了多少个线程去执行不同的任务,他们都必须排队等待获取这个资源来计算和处理命令。先看看单CPU的情况。下面两图描述了时间片模式和非时间片模式下的线程执行的情况:

                            图 1 非时间片线程执行情况

                            图 2 非时间片线程执行情况

      在图一中可以看到,任何线程如果都排队等待CPU资源的获取,那么所谓的多线程就没有任何实际意义。图二中的CPU Manager只是我虚拟的一个角色,由它来分配和管理CPU的使用状况,此时多线程将会在运行过程中都有机会得到CPU资源,也真正实现了在单CPU的情况下实现多线程并行处理。

      多CPU的情况只是单CPU的扩展,当所有的CPU都满负荷运作的时候,就会对每一个CPU采用时间片的方式来提高效率。

      在Linux的内核处理过程中,每一个进程默认会有一个固定的时间片来执行命令(默认为1/100秒),这段时间内进程被分配到CPU,然后独占使用。如果使用完,同时未到时间片的规定时间,那么就主动放弃CPU的占用,如果到时间片尚未完成工作,那么CPU的使用权也会被收回,进程将会被中断挂起等待下一个时间片。

      CPU利用率和Load Average的区别

      压力测试不仅需要对业务场景的并发用户等压力参数作模拟,同时也需要在压力测试过程中随时关注机器的性能情况,来确保压力测试的有效性。当服务器长期处于一种超负荷的情况下运行,所能接收的压力并不是我们所认为的可接受的压力。就好比项目经理在给一个人估工作量的时候,每天都让这个人工作12个小时,那么所制定的项目计划就不是一个合理的计划,那个人迟早会垮掉,而影响整体的项目进度。

      CPU利用率在过去常常被我们这些外行认为是判断机器是否已经到了满负荷的一个标准,看到50%-60%的使用率就认为机器就已经压到了临界了。CPU利用率,顾名思义就是对于CPU的使用状况,这是对一个时间段内CPU使用状况的统计,通过这个指标可以看出在某一个时间段内CPU被占用的情况,如果被占用时间很高,那么就需要考虑CPU是否已经处于超负荷运作,长期超负荷运作对于机器本身来说是一种损害,因此必须将CPU的利用率控制在一定的比例下,以保证机器的正常运作。

      Load Average是CPU的Load,它所包含的信息不是CPU的使用率状况,而是在一段时间内CPU正在处理以及等待CPU处理的进程数之和的统计信息,也就是CPU使用队列的长度的统计信息。为什么要统计这个信息,这个信息的对于压力测试的影响究竟是怎么样的,那就通过一个类比来解释CPU利用率和Load Average的区别以及对于压力测试的指导意义。

      我们将CPU就类比为电话亭,每一个进程都是一个需要打电话的人。现在一共有4个电话亭(就好比我们的机器有4核),有10个人需要打电话。现在使用电话的规则是管理员会按照顺序给每一个人轮流分配1分钟的使用电话时间,如果使用者在1分钟内使用完毕,那么可以立刻将电话使用权返还给管理员,如果到了1分钟电话使用者还没有使用完毕,那么需要重新排队,等待再次分配使用。

                            图 3 电话使用场景

      上图中对于使用电话的用户又作了一次分类,1min的代表这些使用者占用电话时间小于等于1min,2min表示使用者占用电话时间小于等于2min,以此类推。根据电话使用规则,1min的用户只需要得到一次分配即可完成通话,而其他两类用户需要排队两次到三次。

      电话的利用率 =  sum (active use cpu time)/period

      每一个分配到电话的使用者使用电话时间的总和去除以统计的时间段。这里需要注意的是是使用电话的时间总和(sum(active use cpu time)),这与占用时间的总和(sum(occupy cpu time))是有区别的。(例如一个用户得到了一分钟的使用权,在10秒钟内打了电话,然后去查询号码本花了20秒钟,再用剩下的30秒打了另一个电话,那么占用了电话1分钟,实际只是使用了40秒)

      电话的Average Load体现的是在某一统计时间段内,所有使用电话的人加上等待电话分配的人一个平均统计。

      电话利用率的统计能够反映的是电话被使用的情况,当电话长期处于被使用而没有的到足够的时间休息间歇,那么对于电话硬件来说是一种超负荷的运作,需要调整使用频度。而电话Average Load却从另一个角度来展现对于电话使用状态的描述,Average Load越高说明对于电话资源的竞争越激烈,电话资源比较短缺。对于资源的申请和维护其实也是需要很大的成本,所以在这种高Average Load的情况下电话资源的长期“热竞争”也是对于硬件的一种损害。

      低利用率的情况下是否会有高Load Average的情况产生呢?理解占有时间和使用时间就可以知道,当分配时间片以后,是否使用完全取决于使用者,因此完全可能出现低利用率高Load Average的情况。由此来看,仅仅从CPU的使用率来判断CPU是否处于一种超负荷的工作状态还是不够的,必须结合Load Average来全局的看CPU的使用情况和申请情况。

      所以回过头来再看测试部对于Load Average的要求,在我们机器为8个CPU的情况下,控制在10 Load左右,也就是每一个CPU正在处理一个请求,同时还有2个在等待处理。看了看网上很多人的介绍一般来说Load简单的计算就是2* CPU个数减去1-2左右(这个只是网上看来的,未必是一个标准)。

      补充几点:

      1.对于CPU利用率和CPU Load Average的结果来判断性能问题。首先低CPU利用率不表明CPU不是瓶颈,竞争CPU的队列长期保持较长也是CPU超负荷的一种表现。对于应用来说可能会去花时间在I/O,Socket等方面,那么可以考虑是否后这些硬件的速度影响了整体的效率。

      这里最好的样板范例就是我在测试中发现的一个现象:SIP当前在处理过程中,为了提高处理效率,将控制策略以及计数信息都放置在Memcached Cache里面,当我将Memcached Cache配置扩容一倍以后,CPU的利用率以及Load都有所下降,其实也就是在处理任务的过程中,等待Socket的返回对于CPU的竞争也产生了影响。

      2.未来多CPU编程的重要性。现在服务器的CPU都是多CPU了,我们的服务器处理能力已经不再按照摩尔定律来发展。就我上面提到的电话亭场景来看,对于三种不同时间需求的用户来说,采用不同的分配顺序,我们可看到的Load Average就会有不同。假设我们统计Load的时间段为2分钟,如果将电话分配的顺序按照:1min的用户,2min的用户,3min的用户来分配,那么我们的Load Average将会最低,采用其他顺序将会有不同的结果。所以未来的多CPU编程可以更好的提高CPU的利用率,让程序跑的更快。

      以上所提到的内容未必都是很准确或者正确,如果有任何的偏差也请大家指出,可以纠正一些不清楚的概念。

     

  • 业务设计影响性能问题的一点启发

    2008-08-01 09:53:39

         其实在于测试工程师,我看到的东西还很浅,以至于前些天和某高工聊天时候,他问我:你做性能测试,有没有想过业务设计也会影响性能。。。。。我一时没有反应过来。

         他继续到,也许我给你打个比方,现在西安的博物馆免费不免票,每天限量四千张票,如果,他这样限定每天早上八点开始领票,不加任何限制,必定早上八点或者八点前就会排很多人去领票,造成压力,如果你限定每一个小时分别发多少票,这样的话,人们什么时候到,都会有票,是不是缓解了业务高峰的人数,是不是减轻了很大一部分的压力呢?

         说道这里忽然有些明了,性能的问题还是很复杂的,业务的设计的不合理也是很会影响性能的,这些问题在我目前接触的两个项目里面都有类似的问题。o(∩_∩)o...有些启发,记录一下

  • 才有胆量开通日志,今天开始在51上记录生活

    2008-07-31 15:06:06

          说到有胆量,是工作这一年一直混在论坛中,没有发表过留言,因为觉得高手太多,自己水平很菜,不要把人误导了,并且还有很多需要学习。但是测试一年多的工作也需要一个空间和地方去整理整理,原来的测试日志被我一并抛上QQ空间,我的空间访问量大减,好多人问我写的啥,实在影响人气,因为需要一个地方去管理测试积累的东西所以选择了这里,在西安做测试一年,希望大家多多关照,共同进步。这是一个开始,目前正在学习QTP中,欢迎大家来捧场,拍砖。
252/2<12
Open Toolbar