[TOCE] 19 P2-C5-S2 速度很重要

Trustworthy Online Controlled Experiments Part 2 Chap 5


一个关键的假设:局部线性逼近

减速实验的关键假设是,指标(例如收入)与效果之间的关系可以通过与效果相匹配的点周围的直线来很好地近似。这是一阶泰勒级数逼近或线性逼近。

下图显示了,描述了响应时间(效果)和感兴趣指标(例如,点击率(CTR)或每用户收入)之间的常见关系。通常,响应越快,度量值越好(在此示例中越高)。

image.png

当我们放慢响应速度时,我们将从垂直线与图形相交的点移动到右侧,我们可以测量指标的变化。我们做出的假设是,如果我们要移至垂直线的左侧(以提高性能),则左侧的增量将与我们在右侧测得的增量大致相同。

这个假设是否能够成立?有两个条件可能使其成立:

  1. 根据我们自己作为用户的经验,搜索越快越好。很难想象函数会出现间断或急剧变化,尤其是在当前性能点附近。如果延迟三秒钟,可能会出现剧烈的变化(间断点),但是如果增加或减去十分之一秒,则发生这种情况的可能性较小。 【从数学上解释,就说 性能-收益 函数在当前状态对应的点附近可导】

  2. 我们可以在两个点对图形进行采样,以查看线性近似是否合理。具体来说,Bing进行了100毫秒和250毫秒的减速实验。在几个关键指标上,250毫秒实验的增量约为100毫秒研究的增量的2.5倍(在置信区间内),这支持了线性假设。

如何测量网站的性能

衡量网站性能并像看上去那么简单。本节涉及的一些测量的复杂性和所做的一些假设。这些重要的细节可能会影响实验设计。我们在这里详细介绍一下看起来简单的事物在真实生活中的复杂性。

为了可靠地测量延迟,服务器必须同步,因为请求通常由不同的服务器处理,并且我们已经看到服务器之间的时钟偏差会导致数据质量问题(例如,持续时间为负)。服务器经常同步其时钟非常重要。我们的示例没有将客户端和服务器时间混合在一起,因为它们可以位于不同的时区(请参见第13章),并且客户端时钟的可靠性通常较低,有时甚至会差好几年(例如,当电池耗尽时)。

下图显示了高度优化的网站(例如搜索引擎)的请求步骤。

image.png

步骤如下:

  1. 用户在时间T0发出请求,例如在浏览器地址栏或搜索框中键入查询,然后按回车键或单击放大镜。

  2. 该请求花费时间到达服务器,并且到达时间T1。 T1-T0似乎很难估计,但是我们可以使用一个不错的技巧来计算,之后进行解释。

  3. 在接收到请求时,服务器通常在时间T2处将HTML的第一块发送给客户端。该第一块独立于请求(例如查询或URL参数),因此可以快速提供服务。它通常包含基本的页面元素,例如标题,导航元素和JavaScript函数。向用户提供接收到请求的可见反馈是有益的:通常会清除页面,并显示带有某些页面装饰的标头,有时也称为chrome或frame。由于服务器需要时间(到时间T4)来计算页面的URL依赖部分(例如查询或URL参数),在T4 之前,服务器端传递给客户端的代码越多,整个页面加载时间越短;因为这这段时间网络比较空闲 (在比较闲的时间尽量把简单的事情做了)。

  4. 在时间T4,服务器开始发送页面的其余部分,这可能涉及其他数据(例如图像)。

  5. 在时间T6,浏览器将触发Onload事件,指示页面已准备就绪。此时,它发出一个日志请求,通常是一个简单的1×1图像请求(信标)或等效的请求。该请求在时间T7到达服务器。在Onload事件和其他日志记录之后,可能还会发生其他活动(例如,诸如滚动,悬停和点击之类的用户操作)。

  6. 用户体验的页面加载时间(PLT)为T6-T0,我们可以通过测量T7-T1来近似得出。由于初始请求到达服务器所花费的时间可能与Onload事件信标到达服务器所花费的时间非常相似(均为小请求),因此这两个增量可能非常相似,因此我们可以近似得出用户体验时间。

  7. 在支持新的W3C(万维网联盟)标准的新浏览器中,“导航计时”调用提供了多个与PLT相关的信息(请参阅www.w3.org/TR/navigation-timing/)。上面的测量更为通用,并且和来自W3C导航时间的数值匹配得很好。

最后编辑于
©著作权归作者所有,转载或内容合作请联系作者
  • 序言:七十年代末,一起剥皮案震惊了整个滨河市,随后出现的几起案子,更是在滨河造成了极大的恐慌,老刑警刘岩,带你破解...
    沈念sama阅读 226,780评论 6 526
  • 序言:滨河连续发生了三起死亡事件,死亡现场离奇诡异,居然都是意外死亡,警方通过查阅死者的电脑和手机,发现死者居然都...
    沈念sama阅读 97,642评论 3 411
  • 文/潘晓璐 我一进店门,熙熙楼的掌柜王于贵愁眉苦脸地迎上来,“玉大人,你说我怎么就摊上这事。” “怎么了?”我有些...
    开封第一讲书人阅读 174,427评论 0 373
  • 文/不坏的土叔 我叫张陵,是天一观的道长。 经常有香客问我,道长,这世上最难降的妖魔是什么? 我笑而不...
    开封第一讲书人阅读 62,220评论 1 306
  • 正文 为了忘掉前任,我火速办了婚礼,结果婚礼上,老公的妹妹穿的比我还像新娘。我一直安慰自己,他们只是感情好,可当我...
    茶点故事阅读 71,026评论 6 405
  • 文/花漫 我一把揭开白布。 她就那样静静地躺着,像睡着了一般。 火红的嫁衣衬着肌肤如雪。 梳的纹丝不乱的头发上,一...
    开封第一讲书人阅读 54,544评论 1 319
  • 那天,我揣着相机与录音,去河边找鬼。 笑死,一个胖子当着我的面吹牛,可吹牛的内容都是我干的。 我是一名探鬼主播,决...
    沈念sama阅读 42,643评论 3 433
  • 文/苍兰香墨 我猛地睁开眼,长吁一口气:“原来是场噩梦啊……” “哼!你这毒妇竟也来了?” 一声冷哼从身侧响起,我...
    开封第一讲书人阅读 41,796评论 0 283
  • 序言:老挝万荣一对情侣失踪,失踪者是张志新(化名)和其女友刘颖,没想到半个月后,有当地人在树林里发现了一具尸体,经...
    沈念sama阅读 48,300评论 1 329
  • 正文 独居荒郊野岭守林人离奇死亡,尸身上长有42处带血的脓包…… 初始之章·张勋 以下内容为张勋视角 年9月15日...
    茶点故事阅读 40,281评论 3 352
  • 正文 我和宋清朗相恋三年,在试婚纱的时候发现自己被绿了。 大学时的朋友给我发了我未婚夫和他白月光在一起吃饭的照片。...
    茶点故事阅读 42,426评论 1 364
  • 序言:一个原本活蹦乱跳的男人离奇死亡,死状恐怖,灵堂内的尸体忽然破棺而出,到底是诈尸还是另有隐情,我是刑警宁泽,带...
    沈念sama阅读 37,988评论 5 354
  • 正文 年R本政府宣布,位于F岛的核电站,受9级特大地震影响,放射性物质发生泄漏。R本人自食恶果不足惜,却给世界环境...
    茶点故事阅读 43,684评论 3 342
  • 文/蒙蒙 一、第九天 我趴在偏房一处隐蔽的房顶上张望。 院中可真热闹,春花似锦、人声如沸。这庄子的主人今日做“春日...
    开封第一讲书人阅读 34,090评论 0 25
  • 文/苍兰香墨 我抬头看了看天上的太阳。三九已至,却和暖如春,着一层夹袄步出监牢的瞬间,已是汗流浃背。 一阵脚步声响...
    开封第一讲书人阅读 35,311评论 1 280
  • 我被黑心中介骗来泰国打工, 没想到刚下飞机就差点儿被人妖公主榨干…… 1. 我叫王不留,地道东北人。 一个月前我还...
    沈念sama阅读 51,002评论 3 385
  • 正文 我出身青楼,却偏偏与公主长得像,于是被迫代替她去往敌国和亲。 传闻我的和亲对象是个残疾皇子,可洞房花烛夜当晚...
    茶点故事阅读 47,409评论 2 370

推荐阅读更多精彩内容