哪些数据可以更好地监控测试执行进度

前段时间开展了“构建全方位的测试管理体系”公开课,课堂中和学员探讨了如何对测试执行进度进行监控的问题。本文将讨论的内容进行整理,供大家参考。

测试执行进度的监控,所谓的监控实际包含了两层含义,“监”指的是监督Monitoring,简单层面可以理解为在测试过程中收集各种数据并进行分析,得到当前的测试状态,而“控”指的是控制Control,当监督过程中收集与分析数据得到当前状态,并与计划中的目标进行比较,假如两者之间的偏差超过了计划中定义的管理阈值,此时就需要采取行动进行控制。

测试执行进度的监控,是为测试目标服务的,例如:评估软件版本是否可以及时发布?当前的软件产品质量如何等?本文主要从5个角度进行讨论:

1、产品风险

2、测试Tests

3、缺陷

4、覆盖率

5、信心

一、产品风险

测试过程中经常采用基于需求的测试策略和基于风险的测试策略,因此通过收集产品风险相关的信息,就可以帮助确定当前的测试执行进度状态。假如采用基于风险的测试策略,那么测试过程中会识别产品风险,然后通过测试分析与设计阶段分别得到对应的测试条件和测试用例,假如在测试执行过程中发现缺陷,由于确保了测试的可追溯性(具体的可追溯性概念,可参考文章:测试过程中的可追溯性要求),因此就可以确定哪个风险得到了缓解,哪个风险变成了真实发生的事件。

从测试执行进度的角度,可以通过产品风险对应的测试用例状态,进行定性和定量的剩余风险分析,以确定是否满足测试计划中对风险的阈值要求。与产品风险相关的主要例子包括:

1)与产品风险关联的测试用例执行通过的百分比,即哪些产品风险通过测试得到了缓解;

2)与产品风险关联的测试用例执行失败的百分比,即哪些产品风险没有得到缓解,变成了需要采取行动的事件(剩余风险的情况,可以参考下图);

3)未完全测试的产品风险百分比;

4)按照风险级别划分的覆盖的风险百分比;

5)初次产品风险分析后再识别的产品风险百分比(用于判断前期风险识别和分析的有效性);

二、测试Tests

测试Tests通常也是作为测试执行进度监控的重要组成部分,也是出口准则定义中的重要考虑项,例如:要求执行的测试用例通过率必须达到95%。同样的,通过“产品风险”中提到的可追溯性要求,不管是具体需求还是产品风险,最终会设计对应的测试用例进行覆盖,根据其执行的实际状态评估其是否实现或得到缓解。因此针对测试Tests也可以进行通过或失败进行监控,同时,也经常会对执行情况进行分析。与测试Tests相关的主要例子包括:

1)不同状态测试Tests的统计数据,例如:已计划的、已实施的、已运行的、通过的、失败的、无法执行的(被阻塞的)和不执行等;

2)回归测试和确认测试的状态,包括未通过的回归测试和确认测试的趋势;

3)计划的测试周期与实际的测试周期;

下面分别是测试执行率和测试通过率的跟踪数据的例子:

三、缺陷

根据发现的缺陷对测试执行进度进行监控,也是一个重要的手段。其相关的数据主要包括(下图是两个例子):

1)已发现的缺陷总数与已修复的缺陷总数的趋势图;

2)失效的平均时间间隔和失效出现率;

3)按不同缺陷分类的统计数据,例如:功能模块或组件、缺陷发现和移除阶段、优先级/严重程度、根本原因、拒绝或重复的报告等;

4)从报告缺陷到修复缺陷所花的时间趋势;

四、覆盖率

基于前面提到的可追溯性要求,我们就可以针对不同的对象进行覆盖率的数据收集和分析,例如:

1)需求覆盖率;

2)产品风险覆盖率;

3)环境配置覆盖率;

4)代码覆盖率;

五、信心

信心主要来自两个层面,一方面可以参考前面4个维度的客观的度量指标进行评估,而另一方面,可以来自负责该功能测试的测试人员的主观判断。

上面提到的5个维度,可以为测试人员,特别是测试经理监控测试执行进度提供很好的视角。当然,具体采用的维度和数据,还是要根据测试周境进行调整,重要的是适合你的要求。另外,测试过程中数据收集和分析,必定要以大家对相关度量理解一致的基础之上,以便大家可以同样理解和报告当前的状态。同时,根据测试级别的不同,所选择的数据也会不一样。这是在实际过程中需要注意的。记住:收集和分析数据都是为你的目标服务,而不是为了收集而收集。

©著作权归作者所有,转载或内容合作请联系作者
  • 序言:七十年代末,一起剥皮案震惊了整个滨河市,随后出现的几起案子,更是在滨河造成了极大的恐慌,老刑警刘岩,带你破解...
    沈念sama阅读 221,695评论 6 515
  • 序言:滨河连续发生了三起死亡事件,死亡现场离奇诡异,居然都是意外死亡,警方通过查阅死者的电脑和手机,发现死者居然都...
    沈念sama阅读 94,569评论 3 399
  • 文/潘晓璐 我一进店门,熙熙楼的掌柜王于贵愁眉苦脸地迎上来,“玉大人,你说我怎么就摊上这事。” “怎么了?”我有些...
    开封第一讲书人阅读 168,130评论 0 360
  • 文/不坏的土叔 我叫张陵,是天一观的道长。 经常有香客问我,道长,这世上最难降的妖魔是什么? 我笑而不...
    开封第一讲书人阅读 59,648评论 1 297
  • 正文 为了忘掉前任,我火速办了婚礼,结果婚礼上,老公的妹妹穿的比我还像新娘。我一直安慰自己,他们只是感情好,可当我...
    茶点故事阅读 68,655评论 6 397
  • 文/花漫 我一把揭开白布。 她就那样静静地躺着,像睡着了一般。 火红的嫁衣衬着肌肤如雪。 梳的纹丝不乱的头发上,一...
    开封第一讲书人阅读 52,268评论 1 309
  • 那天,我揣着相机与录音,去河边找鬼。 笑死,一个胖子当着我的面吹牛,可吹牛的内容都是我干的。 我是一名探鬼主播,决...
    沈念sama阅读 40,835评论 3 421
  • 文/苍兰香墨 我猛地睁开眼,长吁一口气:“原来是场噩梦啊……” “哼!你这毒妇竟也来了?” 一声冷哼从身侧响起,我...
    开封第一讲书人阅读 39,740评论 0 276
  • 序言:老挝万荣一对情侣失踪,失踪者是张志新(化名)和其女友刘颖,没想到半个月后,有当地人在树林里发现了一具尸体,经...
    沈念sama阅读 46,286评论 1 318
  • 正文 独居荒郊野岭守林人离奇死亡,尸身上长有42处带血的脓包…… 初始之章·张勋 以下内容为张勋视角 年9月15日...
    茶点故事阅读 38,375评论 3 340
  • 正文 我和宋清朗相恋三年,在试婚纱的时候发现自己被绿了。 大学时的朋友给我发了我未婚夫和他白月光在一起吃饭的照片。...
    茶点故事阅读 40,505评论 1 352
  • 序言:一个原本活蹦乱跳的男人离奇死亡,死状恐怖,灵堂内的尸体忽然破棺而出,到底是诈尸还是另有隐情,我是刑警宁泽,带...
    沈念sama阅读 36,185评论 5 350
  • 正文 年R本政府宣布,位于F岛的核电站,受9级特大地震影响,放射性物质发生泄漏。R本人自食恶果不足惜,却给世界环境...
    茶点故事阅读 41,873评论 3 333
  • 文/蒙蒙 一、第九天 我趴在偏房一处隐蔽的房顶上张望。 院中可真热闹,春花似锦、人声如沸。这庄子的主人今日做“春日...
    开封第一讲书人阅读 32,357评论 0 24
  • 文/苍兰香墨 我抬头看了看天上的太阳。三九已至,却和暖如春,着一层夹袄步出监牢的瞬间,已是汗流浃背。 一阵脚步声响...
    开封第一讲书人阅读 33,466评论 1 272
  • 我被黑心中介骗来泰国打工, 没想到刚下飞机就差点儿被人妖公主榨干…… 1. 我叫王不留,地道东北人。 一个月前我还...
    沈念sama阅读 48,921评论 3 376
  • 正文 我出身青楼,却偏偏与公主长得像,于是被迫代替她去往敌国和亲。 传闻我的和亲对象是个残疾皇子,可洞房花烛夜当晚...
    茶点故事阅读 45,515评论 2 359

推荐阅读更多精彩内容