翻译 Skywalking 可扩展的观测

Skywalking 可扩展的观测

原文地址

http://skywalking.apache.org/blog/2020-08-11-observability-at-scale/

SkyWalking不断发展以解决观测的可扩展性问题,并从纯跟踪系统发展为功能丰富的观测平台,该平台现已用于分析每天收集数百亿次跟踪的大型系统。

SkyWalking,Apache的顶级项目,是用来解决21世纪那些增长迅速、分布式、异构化系统的问题的开源APM和观测分析平台。为了解决当前系统管理员碰到的问题:在大量相互依赖的服务中识别和定位针,在多语言应用程序之间获取“Apples to Apples”指标,以及获得完整而有意义的性能视图。

译者注:apples to apples 意思是有意义地比较,比如将HBase和Sqllite进行比较,几乎没有意义

SkyWalking是一个整体平台,可以观察网格上或网格外的微服务,并可以使用轻量级负载提供一致的监视。

设计可扩展

当SkyWalking于2015年首次初始化时,其主要用例是监视中国顶尖电信公司,中国联通和中国移动的第一代分布式核心系统。 在2013-2014年间,电信公司计划用分布式系统替换其旧的传统单体应用程序。 从第一天起,支持超大型分布式系统和可扩展性便是高优先级的设计目标。 那么,可扩展设计中的核心是什么?

推还是拉

推模型或者拉模型跟数据流相关。如果agent收集数据并且将数据推送到后端进行后续分析处理,我们叫做推模型。关于推模型和拉模型的争论已经持续了很长时间。对观测系统来说,重要的是最小化agent的消耗,可适配不同类型的观测数据。

收集数据后,Agent会在短时间内将数据发送出去。这样,我们就不必担心本地缓存过载。一种典型的情况是Endpoint(HTTP的URI,gRPC的服务)的metrics。任何服务都可以轻松拥有数百个甚至数千个Endpoint。 APM系统必须具有这些指标分析功能。

此外,metrics并不是观测领域中唯一的事物。 跟踪和日志也很重要。 SkyWalking旨在在生产环境中提供100%的采样率跟踪功能。 显然,推送模式是唯一的解决方案。

同时,本机使用推模式并不意味着SkyWalking不能进行数据提取。 在最新的8.x版本中,SkyWalking支持从Prometheus仪表支持的服务中获取数据,以减少最终用户的非重复工程。 同样,拉模式在基于MQ的传输中很流行,通常作为Kafka consumer。 SkyWalking agent 使用推模式,而OAP服务器使用拉模式。

结论:推模式是原生方式,但是拉模式在某些特殊情况下也适用。

译者注:推拉模型还跟您的网络规划息息相关,如果您的Skywalking服务器没有和服务面对面网络打通,那么拉模型几乎不可能实现

监控指标分析不仅仅只是数学计算

度量标准依赖于数学理论和计算。 百分位数是识别长尾问题的好方法,合理的平均响应时间和成功率是良好的SLO。 但是,这些还不是全部。 分布式跟踪不仅提供具有详细信息的跟踪,而且还提供可以分析的高价值指标。

Ops和SRE团队需要提供服务拓扑图,以用于NOC仪表板和确认系统数据流。 SkyWalking使用STAM(流拓扑分析方法)从跟踪分析拓扑,或者在服务网格环境中基于ALS(Envoy 访问日志服务)进行分析。 无法从简单的指标SDK提取节点(服务)和线路(服务关系)的拓扑和指标

img

与解决Endpoint metics收集的限制一样,SkyWalking也需要从跟踪数据中进行端点依赖关系分析。 端点依赖性分析提供了更重要和更具体的信息,包括上游和下游。 这些依赖关系和度量标准可帮助开发人员团队将性能问题的边界定位到特定的代码块。

img

预计算还是查询阶段计算?

查询阶段计算更加灵活。在分析阶段进行预计算,提供了更好更稳定的性能。再次申明一下设计原则:Skywalking面向大型分布式系统。查询阶段的计算范围非常有限,并且大多数指标计算都需要预先定义和预先计算。 支持大型数据集的关键是在设计级别缩小数据集的大小。 预先计算允许将原始数据合并到下游的汇总结果中,以用于查询甚至进行警报检查。

指标的TTL是另一个重要的业务推动因素。 由于预计算可以使查询提供近乎线性的性能,并且使用类似的查询基础结构,组织可以提供更高的TTL,从而提供了扩展的性能可视性。

说到警报,查询阶段的计算也意味着警报查询需要基于查询引擎。 但是在这种情况下,当数据集增加时,查询性能可能会不一致。 进行指标查询也是一样的(也会不一致)。

今天的案例

如今,SkyWalking正在监控许多大型企业中的超大规模分布式系统,其中包括阿里巴巴,华为,腾讯,百度,中国电信以及各种银行和保险公司。在线服务公司的流量比传统公司(如银行和电信供应商)更多。

SkyWalking是可观察性平台,用于分布式系统的各种用例,这些用例在许多方面(注:如规模,语言等)都非常大:

  • 拉勾网,在线求职平台
    • SkyWalking监控超过100个微服务,500多个jvm实例
    • SkyWalking每天收集和分析四十亿条跟踪,以分析性能数据,包括30万多个端点和依赖项的指标
    • 整个集群超过50000消息每秒
  • 永辉超市,在线服务
    • SkyWalking每天使用指标来分析至少百亿+(3B)跟踪
    • SkyWalking的第二个较小的部署,每天分析2亿+条跟踪
  • 百度,互联网AI公司,k8部署
    • SkyWalking每天从提供120多种服务的1,400多个Pod中收集1T +跟踪
    • 随着更多服务的添加,规模继续扩大
  • 贝壳找房
    • 从一开始就使用SkyWalking,并且在PMC团队中有两名成员。
    • 部署每天收集16+亿条跟踪
  • 阿里云霄(Ali Yunxiao),阿里云上的DevOps服务
    • SkyWalking每天收集和分析数十亿个Spans
    • SkyWalking使AliCloud的45个服务和约300个实例保持稳定
  • 最大的企业对消费者在线零售商之一阿里巴巴天猫的一个部门,从淘宝网分拆出来
    • 定制版本的SkyWalking每天监控数十亿次跟踪
    • 同时,他们正在利用SkyWalking的代理技术堆栈构建负载测试平台,并利用其跟踪和上下文传播功能

总结

SkyWalking的观测方法遵循以下原则:

  • 理解逻辑模型:不要将可观察性视为数学工具。
  • 首先确定依赖性,然后确定其指标。
  • 扩展应该轻松而原生地完成。
  • 保持不同体系结构之间以及APM本身性能的一致性。
©著作权归作者所有,转载或内容合作请联系作者
  • 序言:七十年代末,一起剥皮案震惊了整个滨河市,随后出现的几起案子,更是在滨河造成了极大的恐慌,老刑警刘岩,带你破解...
    沈念sama阅读 222,252评论 6 516
  • 序言:滨河连续发生了三起死亡事件,死亡现场离奇诡异,居然都是意外死亡,警方通过查阅死者的电脑和手机,发现死者居然都...
    沈念sama阅读 94,886评论 3 399
  • 文/潘晓璐 我一进店门,熙熙楼的掌柜王于贵愁眉苦脸地迎上来,“玉大人,你说我怎么就摊上这事。” “怎么了?”我有些...
    开封第一讲书人阅读 168,814评论 0 361
  • 文/不坏的土叔 我叫张陵,是天一观的道长。 经常有香客问我,道长,这世上最难降的妖魔是什么? 我笑而不...
    开封第一讲书人阅读 59,869评论 1 299
  • 正文 为了忘掉前任,我火速办了婚礼,结果婚礼上,老公的妹妹穿的比我还像新娘。我一直安慰自己,他们只是感情好,可当我...
    茶点故事阅读 68,888评论 6 398
  • 文/花漫 我一把揭开白布。 她就那样静静地躺着,像睡着了一般。 火红的嫁衣衬着肌肤如雪。 梳的纹丝不乱的头发上,一...
    开封第一讲书人阅读 52,475评论 1 312
  • 那天,我揣着相机与录音,去河边找鬼。 笑死,一个胖子当着我的面吹牛,可吹牛的内容都是我干的。 我是一名探鬼主播,决...
    沈念sama阅读 41,010评论 3 422
  • 文/苍兰香墨 我猛地睁开眼,长吁一口气:“原来是场噩梦啊……” “哼!你这毒妇竟也来了?” 一声冷哼从身侧响起,我...
    开封第一讲书人阅读 39,924评论 0 277
  • 序言:老挝万荣一对情侣失踪,失踪者是张志新(化名)和其女友刘颖,没想到半个月后,有当地人在树林里发现了一具尸体,经...
    沈念sama阅读 46,469评论 1 319
  • 正文 独居荒郊野岭守林人离奇死亡,尸身上长有42处带血的脓包…… 初始之章·张勋 以下内容为张勋视角 年9月15日...
    茶点故事阅读 38,552评论 3 342
  • 正文 我和宋清朗相恋三年,在试婚纱的时候发现自己被绿了。 大学时的朋友给我发了我未婚夫和他白月光在一起吃饭的照片。...
    茶点故事阅读 40,680评论 1 353
  • 序言:一个原本活蹦乱跳的男人离奇死亡,死状恐怖,灵堂内的尸体忽然破棺而出,到底是诈尸还是另有隐情,我是刑警宁泽,带...
    沈念sama阅读 36,362评论 5 351
  • 正文 年R本政府宣布,位于F岛的核电站,受9级特大地震影响,放射性物质发生泄漏。R本人自食恶果不足惜,却给世界环境...
    茶点故事阅读 42,037评论 3 335
  • 文/蒙蒙 一、第九天 我趴在偏房一处隐蔽的房顶上张望。 院中可真热闹,春花似锦、人声如沸。这庄子的主人今日做“春日...
    开封第一讲书人阅读 32,519评论 0 25
  • 文/苍兰香墨 我抬头看了看天上的太阳。三九已至,却和暖如春,着一层夹袄步出监牢的瞬间,已是汗流浃背。 一阵脚步声响...
    开封第一讲书人阅读 33,621评论 1 274
  • 我被黑心中介骗来泰国打工, 没想到刚下飞机就差点儿被人妖公主榨干…… 1. 我叫王不留,地道东北人。 一个月前我还...
    沈念sama阅读 49,099评论 3 378
  • 正文 我出身青楼,却偏偏与公主长得像,于是被迫代替她去往敌国和亲。 传闻我的和亲对象是个残疾皇子,可洞房花烛夜当晚...
    茶点故事阅读 45,691评论 2 361

推荐阅读更多精彩内容

  • 洞察你的服务:使用Kiali观测你的微服务应用 微服务架构可视化的重要性: 痛点:服务间依赖关系错综复杂问题排查困...
    端碗吹水阅读 1,259评论 0 2
  • 夜莺2517阅读 127,728评论 1 9
  • 版本:ios 1.2.1 亮点: 1.app角标可以实时更新天气温度或选择空气质量,建议处女座就不要选了,不然老想...
    我就是沉沉阅读 6,905评论 1 6
  • 我是一名过去式的高三狗,很可悲,在这三年里我没有恋爱,看着同龄的小伙伴们一对儿一对儿的,我的心不好受。怎么说呢,高...
    小娘纸阅读 3,392评论 4 7
  • 这些日子就像是一天一天在倒计时 一想到他走了 心里就是说不出的滋味 从几个月前认识他开始 就意识到终究会发生的 只...
    栗子a阅读 1,624评论 1 3