精准测试的软件产品质量效率变化分析

精准测试的软件产品质量效率变化分析

伴随着软件规模的扩大和软件快速迭代的双重业务加速要求,软件质量控制的压力也越来越明显。但黑盒测试的无力感和白盒测试的高复杂度,让软件测试工程师和管理者都非常郁闷,多样化的自动化测试工具也解决不了根本性的问题。
目前正在业内流行的精准测试技术,从企业级应用的反馈来看,它最为主要的三个技术特性,使企业在软件质量改进方面,突破了原有的天花板。
  1、 测试用例与代码的双向追溯技术:使开发和测试过程可视化,达到软件与团队管理的数据化交流,不再流于形式和口头交流;灰盒的透明运行模式,不改变传统企业流程,却能够将功能测试的数据映射到代码层面进行精准分析。
  2、 延展测试数据的应用价值:精准测试在运行中会产生大量的数据,基于这些数据可以让测试过程的价值拓展到整个研发体系,例如通过深度测试数据直接进行智能缺陷定位,通过逆向追溯帮助开发分析进行代码一致性修改等。
  3、 通过智能算法全面支持敏捷:全自动的智能回归用例选取、用例聚类分析、测试漏洞分析,累计覆盖率等技术全面支持敏捷场景下的质量保证。

本文将重点分析精准测试在研发体系中应用后的整体运行效率和质量改进分析。另本文分析数据对应的标的产品是星云测试的ThreadingTest产品,目前也是精准功能最全面、商用化程度最高的精准测试产品(读者可提前阅读精准测试框架白皮书以及到体验精准测试产品,熟悉精准测试的整体功能)。
精准测试运行效率很高。它采用的技术路线为系统级灰盒技术范畴,因此精准测试的运行过程依然是黑盒,不直接改变用例的运行方法及团队成员构成,上手比较快。它的数据采集是基于软件测试示波器全自动采集,用于标记采集数据和用例的映射关系,对原有测试的运行效率干扰极小,实际运行分析额外附加工作量在2%以下。精准测试必要的插装过程无需人工干预,实施成本也是一次性的。

下图是精准测试的运行效率图:


  1. 传统意义上的黑盒测试方法一般在覆盖率进入到40-50区间以后,会逐步开始产生较大运行瓶颈,测试专业上形象的称之为杀虫剂效应。而黑盒的瓶颈点又恰恰是精准测试的发力点。精准测试可以关联到代码看到语句块,分支,条件等的覆盖率,也可以根据精准测试提供的各种彩色分析视图确定漏测点。因此不管被测系统有多复杂,精准测试的运行效率均呈线性45度角稳步上升。
    从上图可以看出,越过瓶颈点后的中等覆盖率水平,精准测试所使用的时间仅仅是传统黑盒测试的一半,因此成本投入也将是普通黑盒测试的一半。这一点对于企业来讲不仅仅是大幅度提升了测试的工作效率、加快了产品发布时间,同时节约了大量的人力成本投入。

  2. 精准测试的核心技术要点是测试用例与代码的追溯技术。这项技术简单来说就是当功能执行完成以后对应的整体代码执行情况就会立即产生,可以理解为一种强大的全景调试器,即当点击一个测试用例,就立即追踪到对应的代码和模块。如果你有一个足够大的屏幕,可以想象场景是多么的震撼…

  3. 精准测试测试漏洞分析功能,适用于敏捷测试。它可以基于程序静态数据和动态运行数据,自动分析软件缺陷最高风险的位置,引导首先对于高风险的模块完成覆盖,在有限时间内完成最具有风险的模块的覆盖测试。基于智能缺陷定位技术,精准测试结果可以直接定位到缺陷的位置,因此精准测试让开发人员定位缺陷的效率可以至少提升2-3倍。

  4. 企业最为头痛的回归测试维护,精准测试也给予了很好的方案。根据国际权威统计,平均每6行代码的修改,就会引入一个未知的难以直接预测的缺陷。从另一个角度来看,回归测试会随着项目人员记忆模糊以及团队调整,使不可预知的缺陷比例逐步上升。而精准测试由于其内置算法的原因,各种信息都极其完整的保存在了计算机里。我们实际对比了5个用例集在1000个左右的系统的测试,其计算用例集可控制在20%左右。另外在从回归测试的风险角度上看,传统通过经验判断型方法,由于周期拉长后人员变动以及记忆模糊。导致发现迭代引起的未知关联的概率越来越低,上线后引入风险。而采用精准测试,由于每轮测试记录的数据越来越多,基础代码覆盖辐射面越来越广,其计算准确性亦在持续上升。经过一定量的版本迭代后,其发现关联缺陷的概率可以达到80%以上。


  5. 精准测试的测试用例聚类分析功能,可以有效地发现“测试的错误”。比如一个用例执行步骤错误,它的聚类结果必然会发生变化,管理者通过系统分析的结果就可以发现并纠正这一类的错误,而之前可能需要在现场反复的确认。

  6. 从管理角度看,传统架构下平均4-5个测试执行人员就需要一个管理者,管理成本极高。精准测试体系下,由于过程管理均由计算机自动记录,管理者只需看报表就能清楚获知项目进度情况及每位项目参与者的工作效率。通过日报、周报、月报等,轻松了解各项目状况。后续团队无论如何变更,都可以在被授权的情况下,通过平台清楚地了解到整体框架结构与细致追溯关系,达到快速接手、大量节省开发与维护成本的目的。
    根据上述分析,精准测试适合应用于研发、测试的成熟体系中,特点是引入成本低,提高企业研发、测试效率显著,软件风控成果卓越。正如网络上所说,精准测试正在快速成为主流技术。

最后编辑于
©著作权归作者所有,转载或内容合作请联系作者
  • 序言:七十年代末,一起剥皮案震惊了整个滨河市,随后出现的几起案子,更是在滨河造成了极大的恐慌,老刑警刘岩,带你破解...
    沈念sama阅读 215,012评论 6 497
  • 序言:滨河连续发生了三起死亡事件,死亡现场离奇诡异,居然都是意外死亡,警方通过查阅死者的电脑和手机,发现死者居然都...
    沈念sama阅读 91,628评论 3 389
  • 文/潘晓璐 我一进店门,熙熙楼的掌柜王于贵愁眉苦脸地迎上来,“玉大人,你说我怎么就摊上这事。” “怎么了?”我有些...
    开封第一讲书人阅读 160,653评论 0 350
  • 文/不坏的土叔 我叫张陵,是天一观的道长。 经常有香客问我,道长,这世上最难降的妖魔是什么? 我笑而不...
    开封第一讲书人阅读 57,485评论 1 288
  • 正文 为了忘掉前任,我火速办了婚礼,结果婚礼上,老公的妹妹穿的比我还像新娘。我一直安慰自己,他们只是感情好,可当我...
    茶点故事阅读 66,574评论 6 386
  • 文/花漫 我一把揭开白布。 她就那样静静地躺着,像睡着了一般。 火红的嫁衣衬着肌肤如雪。 梳的纹丝不乱的头发上,一...
    开封第一讲书人阅读 50,590评论 1 293
  • 那天,我揣着相机与录音,去河边找鬼。 笑死,一个胖子当着我的面吹牛,可吹牛的内容都是我干的。 我是一名探鬼主播,决...
    沈念sama阅读 39,596评论 3 414
  • 文/苍兰香墨 我猛地睁开眼,长吁一口气:“原来是场噩梦啊……” “哼!你这毒妇竟也来了?” 一声冷哼从身侧响起,我...
    开封第一讲书人阅读 38,340评论 0 270
  • 序言:老挝万荣一对情侣失踪,失踪者是张志新(化名)和其女友刘颖,没想到半个月后,有当地人在树林里发现了一具尸体,经...
    沈念sama阅读 44,794评论 1 307
  • 正文 独居荒郊野岭守林人离奇死亡,尸身上长有42处带血的脓包…… 初始之章·张勋 以下内容为张勋视角 年9月15日...
    茶点故事阅读 37,102评论 2 330
  • 正文 我和宋清朗相恋三年,在试婚纱的时候发现自己被绿了。 大学时的朋友给我发了我未婚夫和他白月光在一起吃饭的照片。...
    茶点故事阅读 39,276评论 1 344
  • 序言:一个原本活蹦乱跳的男人离奇死亡,死状恐怖,灵堂内的尸体忽然破棺而出,到底是诈尸还是另有隐情,我是刑警宁泽,带...
    沈念sama阅读 34,940评论 5 339
  • 正文 年R本政府宣布,位于F岛的核电站,受9级特大地震影响,放射性物质发生泄漏。R本人自食恶果不足惜,却给世界环境...
    茶点故事阅读 40,583评论 3 322
  • 文/蒙蒙 一、第九天 我趴在偏房一处隐蔽的房顶上张望。 院中可真热闹,春花似锦、人声如沸。这庄子的主人今日做“春日...
    开封第一讲书人阅读 31,201评论 0 21
  • 文/苍兰香墨 我抬头看了看天上的太阳。三九已至,却和暖如春,着一层夹袄步出监牢的瞬间,已是汗流浃背。 一阵脚步声响...
    开封第一讲书人阅读 32,441评论 1 268
  • 我被黑心中介骗来泰国打工, 没想到刚下飞机就差点儿被人妖公主榨干…… 1. 我叫王不留,地道东北人。 一个月前我还...
    沈念sama阅读 47,173评论 2 366
  • 正文 我出身青楼,却偏偏与公主长得像,于是被迫代替她去往敌国和亲。 传闻我的和亲对象是个残疾皇子,可洞房花烛夜当晚...
    茶点故事阅读 44,136评论 2 352

推荐阅读更多精彩内容

  • 1****、问:你在测试中发现了一个bug****,但是开发经理认为这不是一个bug****,你应该怎样解决? 首...
    蛋炒饭_By阅读 5,292评论 1 94
  • 文章来自:http://blog.csdn.net/mj813/article/details/52451355 ...
    好大一只鹏阅读 9,190评论 2 126
  • 1.测试与软件模型 软件开发生命周期模型指的是软件开发全过程、活动和任务的结构性框架。软件项目的开发包括:需求、设...
    宇文臭臭阅读 6,723评论 5 100
  • 1.测试与软件模型 软件开发生命周期模型指的是软件开发全过程、活动和任务的结构性框架。软件项目的开发包括:需求、设...
    Mr希灵阅读 21,956评论 7 278
  • 在教育心理学领域有一句经典名言:“播下一种思想,收获一种行为。播下一种行为,收获一种习惯。播下一种习惯,...
    赵俊起阅读 271评论 0 0