基于像素对比的前端E2E测试探索

一,背景

近期我们做了一版新的web运行框架,试运行后,领导和同事给了很多的建议和反馈,有些是需求有些是Bug。但当我们在修复Bug或实现需求的时候。发现一个质量问题,经常出现修改1个问题引入1个问题的现象,比如调整了一种场景下的菜单宽度会导致另一种场景下的菜单显示偏移不齐。

随着新版web运行框架内容的不断丰富,每次修改靠人工去判断对错,不管是在效率方面还是结果方面,都不太理想。所以我们需要用一种新的测试手段去进行可视化效果的E2E验证。期望:每次修改发布测试环境后,我们跑一遍测试用例,就能知道可视化效果有没有受损,有没有意外影响。

二,实现方案

一番搜索后发现,其实很多大厂都已经有了解决方案并用于实践,我们在这方面有点后知后觉了。其实现思路是基于图的像素比对,主要流程如下:

  • 对预期结果抓图并保存

  • 用无头浏览器 访问,并进行动作模拟。最后抓取运行结果图片并保存

  • 对比预期图片与结果图片间的像素差异,大于某个值就认为有错

通过选型最终结果如下:

  • puppeteer 提供无头浏览器(Headless browser)

  • pixelmatch 提供图片像素级别的比较

  • pngjs 提供png的读写能力

三,关键技术解读

pixelmatch是该方案的关键,所以笔者就学习了一下pixelmatch的源码,粗略学习了像素对比的实现原理。其过程大致如下:

  • 如果两张图片完全相同,则返回0。否则,它根据匹配阈值和YIQ差异度量计算两种颜色之间的最大可接受平方距离。然后,它将每个相应像素进行比较,并使用YIQ差异度量计算它们之间的颜色差异。

  • 如果颜色差异超过阈值,则检查它是否是真正的渲染差异或仅是反锯齿。

  • 如果是反锯齿,则将像素绘制为黄色,并将其不计为差异。

  • 如果是真正的渲染差异,则将像素绘制为差异,并增加差异计数。

  • 如果像素相似,则将背景绘制为与白色混合的灰度图像。

在这个过程中有两个比较关键的点:

1,颜色差异的比较采用的是YIQ差异度量计算

YIQ,是NTSC(National Television Standards Committee)电视系统标准。Y是提供黑白电视及彩色电视的亮度信号(Luminance),即亮度(Brightness),I代表In-phase,色彩从橙色到青色,Q代表Quadrature-phase,色彩从紫色到黄绿色

这里实现分两步

第一步是RGBA转YIQ,其标准公式如下:

function rgb2y(r, g, b) { return r * 0.29889531 + g * 0.58662247 + b * 0.11448223; }

如果是有透明度的:会按一定的公式与白色进行混合,其公式如下:

255 + (c - 255) * a;

第二步就是差异计算的理论基于YIQ NTSC transmission color space in mobile applications,计算公式如下:

delta = 0.5053 * (Y1 - Y2) ^ 2 + 0.299 * (I1 - I2) ^ 2 + 0.1957 * (Q1 - Q2) ^ 2

2,区分渲染差异和反锯齿

什么是反锯齿?

反锯齿(英语:anti-aliasing,简称AA),也译为抗锯齿或边缘柔化、消除混叠、抗图像折叠有损等。它是一种消除显示器输出的画面中图物边缘出现凹凸锯齿的技术。

当我们计算出像素差异后,需要区分一下是真的差异还是反锯齿引起。其判断依据是通过检查像素是否具有3个或更多相邻的相同颜色像素来进行判定。如果周围像素颜色一致,那么就认为是反锯齿。反之则认为是真正的像素差异。

四,实践情况

我们先实现了一个基础版,然后通过边实践边丰富方式来渐进完善。

其代码主要部分如下,无头浏览器部分:

/**
 * 执行测试case
 * @param {} caseInfo  测试case信息
 */
async function runCase(caseInfo) {
  const browser = await puppeteer.launch({ headless: true });
  const page = await browser.newPage();
  await page.setViewport({
    width: caseInfo.imgWidth,
    height: caseInfo.imgHeight,
    deviceScaleFactor: 1,
  });

  await page.goto(caseInfo.caseUrl);

  if(caseInfo.autoLogin){

    let username = caseInfo.username
    let password = caseInfo.password
    await page.evaluate(async (username,password) => {
      window.autoLogin(username,password)
    },username,password);

    await page.waitForNavigation()
  }
  
  await page.waitForTimeout(5000);

  if(caseInfo.operators){
   await caseInfo.operators(page)
   await page.waitForTimeout(1000);
  }
  
  let _p = path.join(caseInfo.baseDir,'result.png')
  await page.screenshot({ path: _p });
  await browser.close();
  const diff  = await compareImages(_p, path.join(caseInfo.baseDir,caseInfo.expectImg),caseInfo);
  if (diff > 0.005) {
    console.log(caseInfo.caseTitle +'\x1b[31m%s\x1b[0m', '❌');
  } else {
    console.log(caseInfo.caseTitle +':\x1b[32m%s\x1b[0m', '✅');
  }
}

图片像素比对部分:

/**
 * 图片比较
 * @param {*} img1Path 图1
 * @param {*} img2Path 图2
 * @param {*} caseInfo 测试case信息
 * @returns 
 */
async function compareImages(img1Path, img2Path,caseInfo) {

  const img1 = PNG.sync.read(fs.readFileSync(img1Path));
  const img2 = PNG.sync.read(fs.readFileSync(img2Path));
  const {width, height} = img1;
  const diff = new PNG({width, height});
  
  const numDiffPixels = pixelmatch(img1.data, img2.data, diff.data, width, height, {threshold: 0.1});
  
  fs.writeFileSync(path.join(caseInfo.baseDir,'diff.png'), PNG.sync.write(diff));

  const deviationRate = numDiffPixels / (width * height);

  return deviationRate
}

逻辑上我们把图片分为三个:

  • 预期的叫expect

  • 执行结果叫result

  • 差异叫diff

最后判断偏差是否大于0.005,大于就认为有问题。

我们做了两个demoCase进行了效果验证,分别是

  • 登录页面测试

  • 首页面(展开菜单)测试

执行测试后,结果如下图:

image.png

一个成功一个失败,然后我们分别看一下图形对比:图片依次为expect,result,diff)*

登录页面测试对比图:


image.png

首页面(展开菜单)测试对比图:

image.png

通过图形对比我们可以看到,判断结果是准确的。

五,总结

目前为止,我们还只是快速实现了一个测试的原型,大量case还在补充验证中。至于是否可以解决开篇描述的问题,还需要进一步观察和实践。同时一些细节以及测试Case的功能完备性方面也会不断加强完善。比如结果对比可视化,执行脚本可录制化等等

前端代码质量可以通过单元测试解决,在可视化效果验证方面,像素对比应该是一个好的方向。

©著作权归作者所有,转载或内容合作请联系作者
  • 序言:七十年代末,一起剥皮案震惊了整个滨河市,随后出现的几起案子,更是在滨河造成了极大的恐慌,老刑警刘岩,带你破解...
    沈念sama阅读 219,427评论 6 508
  • 序言:滨河连续发生了三起死亡事件,死亡现场离奇诡异,居然都是意外死亡,警方通过查阅死者的电脑和手机,发现死者居然都...
    沈念sama阅读 93,551评论 3 395
  • 文/潘晓璐 我一进店门,熙熙楼的掌柜王于贵愁眉苦脸地迎上来,“玉大人,你说我怎么就摊上这事。” “怎么了?”我有些...
    开封第一讲书人阅读 165,747评论 0 356
  • 文/不坏的土叔 我叫张陵,是天一观的道长。 经常有香客问我,道长,这世上最难降的妖魔是什么? 我笑而不...
    开封第一讲书人阅读 58,939评论 1 295
  • 正文 为了忘掉前任,我火速办了婚礼,结果婚礼上,老公的妹妹穿的比我还像新娘。我一直安慰自己,他们只是感情好,可当我...
    茶点故事阅读 67,955评论 6 392
  • 文/花漫 我一把揭开白布。 她就那样静静地躺着,像睡着了一般。 火红的嫁衣衬着肌肤如雪。 梳的纹丝不乱的头发上,一...
    开封第一讲书人阅读 51,737评论 1 305
  • 那天,我揣着相机与录音,去河边找鬼。 笑死,一个胖子当着我的面吹牛,可吹牛的内容都是我干的。 我是一名探鬼主播,决...
    沈念sama阅读 40,448评论 3 420
  • 文/苍兰香墨 我猛地睁开眼,长吁一口气:“原来是场噩梦啊……” “哼!你这毒妇竟也来了?” 一声冷哼从身侧响起,我...
    开封第一讲书人阅读 39,352评论 0 276
  • 序言:老挝万荣一对情侣失踪,失踪者是张志新(化名)和其女友刘颖,没想到半个月后,有当地人在树林里发现了一具尸体,经...
    沈念sama阅读 45,834评论 1 317
  • 正文 独居荒郊野岭守林人离奇死亡,尸身上长有42处带血的脓包…… 初始之章·张勋 以下内容为张勋视角 年9月15日...
    茶点故事阅读 37,992评论 3 338
  • 正文 我和宋清朗相恋三年,在试婚纱的时候发现自己被绿了。 大学时的朋友给我发了我未婚夫和他白月光在一起吃饭的照片。...
    茶点故事阅读 40,133评论 1 351
  • 序言:一个原本活蹦乱跳的男人离奇死亡,死状恐怖,灵堂内的尸体忽然破棺而出,到底是诈尸还是另有隐情,我是刑警宁泽,带...
    沈念sama阅读 35,815评论 5 346
  • 正文 年R本政府宣布,位于F岛的核电站,受9级特大地震影响,放射性物质发生泄漏。R本人自食恶果不足惜,却给世界环境...
    茶点故事阅读 41,477评论 3 331
  • 文/蒙蒙 一、第九天 我趴在偏房一处隐蔽的房顶上张望。 院中可真热闹,春花似锦、人声如沸。这庄子的主人今日做“春日...
    开封第一讲书人阅读 32,022评论 0 22
  • 文/苍兰香墨 我抬头看了看天上的太阳。三九已至,却和暖如春,着一层夹袄步出监牢的瞬间,已是汗流浃背。 一阵脚步声响...
    开封第一讲书人阅读 33,147评论 1 272
  • 我被黑心中介骗来泰国打工, 没想到刚下飞机就差点儿被人妖公主榨干…… 1. 我叫王不留,地道东北人。 一个月前我还...
    沈念sama阅读 48,398评论 3 373
  • 正文 我出身青楼,却偏偏与公主长得像,于是被迫代替她去往敌国和亲。 传闻我的和亲对象是个残疾皇子,可洞房花烛夜当晚...
    茶点故事阅读 45,077评论 2 355

推荐阅读更多精彩内容