产品经理说|AIOps 让告警管理变得更智能

AIOps 人工智能和IT运营支撑 Ops 之间的故事,愈演愈烈,已经成为当今运维圈的热门话题,我打算从2篇文档分享我们在 AIOps 上一些探索和实践。(本篇)为什么事件(告警)处理需要 AIOps;(下篇)OneAlert事件处理平台在 AIOps 方面的探索。

一、 规模化

现在的企业 IT 规模,软硬件都与以往有数十倍/上百倍递增,如何管理 IT 可用性和高效性,成为 IT 运营 DevOps 团队重要职责。规模化带来两个显著特点:1、更多的变更;2、更大的规模

企业的 IT 想跑的更快,就必须将工作给分解的更细,让团队能够以独立小分队作战。所以敏捷 Agile、DevOps、云和微服务大行其道。

为了保障高可用和高性能,现在企业基本上会用多个不同的工具,例如 ZabbixNagios、Open-Falcon、Solarwinds、Prometheus、ELK 等以及云平台自带的监控工具,实现网络和基础设施、应用和中间件等服务。这些系统每天会产生数以万计的事件/告警,这些时间都需要去分析、优先级甄别、并执行预案操作。随着时间的推移,可能是数十万、百万事件需要关注。

二、 人力有限

研究证明,人类大脑在短时间内(10-15秒),只能同时处理7-9件事情。这有点扯,习惯多线程工作的程序猿们,也就2-3个事情而已。所以工程师的生产效率其实是可期的。相信如果采用敏捷模式的工作模式,最后统计人均工作量(如 Jira)的时候,基本上一个团队/每个人的输出是一定量的。

这里就存在一个重要的矛盾:日益增长的 IT 运营需要,同落后的 IT 生产力之间的矛盾 :

以事件管理(告警管理)为例,我们看看人工智能结合后,有什么不同。事件管理是 IT 运营支撑过程中最为高频的事情,也是最费时费力的事情。

大多企业都有类似于 NOC,服务台或者是一线支持团队,及时分析、甄别重要事件,第一时间处理,如果处理不了,一般会协同他人,或者派发工单。这些有一个前提,一般都是有一个集中的事件中心(告警平台),例如 OneAlert。通过接口、邮箱等方式收集各类监控事件过来。

告警集中化便于集中处理事件的同时,也带来了一些问题:常见的是告警疲劳(太多事件无感)和噪音过多(不知道什么是重要的),重要事情淹没在汪洋大海里面。 一线团队识别重要问题的难度如大海捞针,所以大多人会做一个事情:禁用告警。只将需要处理的事件发送至告警平台,这样人为控制的方式,能够有效甄别;但也有问题,会有可能忽略大量的预警信息,不能及时在故障前发现问题;可能会造成对业务服务和终端用户的影响。

在进入AI模式前,有很多人包括 OneAlert 团队都在寻找合适的解决方案,常见的是事件的去重、关联、合并,尽可能识别根源,为此有些团队花巨大精力构建 CMDB、并强化拓扑关联等等,以及建立合并策略规则,目的只有一个,就是尽快甄别重要问题,以及识别根源,是否影响业务影响。然而事实证,大量的人为干预和规则设定,大量的前置规则,都需要投入,而实际产出可能各异,最终效果不见的理想。特别是在规模化(云化、分布式和动态微服务)以后,维持准确的 CMDB 和拓扑关联更加困难。

三、 人工智能与 AIOps

在谈 AIOps 前,我们先了解下什么是 AI。大数据发展、高性能硬件、更先进的算法三驾马车推进下,人工智能迎来第三轮发展浪潮。利用人工智能高效实现海量数据的分析和挖掘;处理数百万事件乃至千万,基本都是秒级甚至毫秒级。通过监督学习(人干预)和非监督学习(不干预),非常适合去处理大数据事情,这一点往往是人力达不到的。

Gartner 在2016年预测2019年,有25%的全球企业将会使用 AIOps 技术或平台去实现IT运营支撑,现在已经2018年,有理由相信下半年到明年 AIOps 的爆发。

从 Gartner 定义范畴来说,AIOps 是包括监控 Monitor、服务管理 Service Desk、自动化操作Automation,基于大数据和机器学习技术的持续优化过程。核心思路是通过海量数据的异常检测和多维度关联飞、增强或取代 ITOM 领域的三个重要能力:监控、服务管理和自动化,进一步帮助IT运维人员准确甄别系统异常、快速定位故障根因、并对潜在系统运行风险进行预警、实现IT和业务的持续洞察和改进。

国内不少一线互联网企业已经在监控 Monitor 领域上做了不少尝试,而也有不少专业厂商在这领域发力。我们另外一个产品 I2(Intelligence Insight)聚焦监控,更多详细内容参见《AIOps 一场颠覆传统运维的盛筵》www.aiops.com。

今天讨论的其实重点是服务管理 ServiceDesk 的事件(告警)管理,实际上还有更多IT服务管理(ITSM)的人工智能化。我和团队的OneAlert事件处理平台,更多聚焦的是监控产生事件到人员处理响应这个过程,而且是一个高频场景,苦活累活较多。

我们对人工智能的期望是将数以万计的事件,经过漏斗式过滤,剩下的都是金子,缩减为数十个重要事情(不是单粒度事件),这样一线就可以保持更高的专注力和较高的工作效率。与传统人工模式相比,期望人工智能算法可以相对轻松的快速(秒级)处理事件,实现去重、关联和甄别重要事件,并创建工单/通知提醒,实现知识重用。

工程师通过人工智能技术辅助,可以更快更高效的处理重要事件,减少故障时间和业务中断时间,从而提升 IT 系统的可靠性和高性能。所以 AIOps 是一个新的途径,也是技术发展的必然选择。

我们期望事件(告警)处理可以实现:

(1)自动减少告警数量和噪音,去芜存菁。

(2)智能的关联/聚类能够快速的识别问题,分门别类。

(3)快速识别根源。

(4)协作自动化,实现团队沟通和协作。

(5)知识积累和自动复用,决策支持,越用越智能。

假设一个场景:

“某商城,网络交换机的端口故障,引发了一系列应用主机故障闪断(如 Zabbix Agent Ping),以及相关的商城和门户业务系统不稳定。”

OneAlert 的 AIOps 方案预期效果:

(1) 将短时间数百/数千事件,缩减至数类问题:网络交换机、主机闪断、应用商城不稳定和门户不稳定。

(2) 其中网络交换机端口故障和应用主机故障,需要重点关注,前者的根源概率为80%。

(3)上个月该交换机曾经出现过类似问题,解决方案是什么样的,如xx流量过大,需要限流干预。

(4) 自动通知相关基础设施团队、商城和门户支持团队。通知出问题,而不是某个业务系统100个进程闪断的逐条详细。

相比传统的人工方式,事无巨细的做法,人工智能的优势在于能够从大量的事件中提取关键重要信息,并甄别、识别优先级类型,并自动的实现人员协作通知,复用知识,实现决策支持,从而提升工作效率。

下一篇《OneAlert 事件处理平台在 AIOps 方面的探索》将针对以上几点,展开分享。

OneAPM 全新推出新一代 AIOps 平台 I2,欢迎您随时联系我们,即刻开启贵公司的智能运维之旅。点击进入AIOps 官网了解更多信息。

©著作权归作者所有,转载或内容合作请联系作者
  • 序言:七十年代末,一起剥皮案震惊了整个滨河市,随后出现的几起案子,更是在滨河造成了极大的恐慌,老刑警刘岩,带你破解...
    沈念sama阅读 212,294评论 6 493
  • 序言:滨河连续发生了三起死亡事件,死亡现场离奇诡异,居然都是意外死亡,警方通过查阅死者的电脑和手机,发现死者居然都...
    沈念sama阅读 90,493评论 3 385
  • 文/潘晓璐 我一进店门,熙熙楼的掌柜王于贵愁眉苦脸地迎上来,“玉大人,你说我怎么就摊上这事。” “怎么了?”我有些...
    开封第一讲书人阅读 157,790评论 0 348
  • 文/不坏的土叔 我叫张陵,是天一观的道长。 经常有香客问我,道长,这世上最难降的妖魔是什么? 我笑而不...
    开封第一讲书人阅读 56,595评论 1 284
  • 正文 为了忘掉前任,我火速办了婚礼,结果婚礼上,老公的妹妹穿的比我还像新娘。我一直安慰自己,他们只是感情好,可当我...
    茶点故事阅读 65,718评论 6 386
  • 文/花漫 我一把揭开白布。 她就那样静静地躺着,像睡着了一般。 火红的嫁衣衬着肌肤如雪。 梳的纹丝不乱的头发上,一...
    开封第一讲书人阅读 49,906评论 1 290
  • 那天,我揣着相机与录音,去河边找鬼。 笑死,一个胖子当着我的面吹牛,可吹牛的内容都是我干的。 我是一名探鬼主播,决...
    沈念sama阅读 39,053评论 3 410
  • 文/苍兰香墨 我猛地睁开眼,长吁一口气:“原来是场噩梦啊……” “哼!你这毒妇竟也来了?” 一声冷哼从身侧响起,我...
    开封第一讲书人阅读 37,797评论 0 268
  • 序言:老挝万荣一对情侣失踪,失踪者是张志新(化名)和其女友刘颖,没想到半个月后,有当地人在树林里发现了一具尸体,经...
    沈念sama阅读 44,250评论 1 303
  • 正文 独居荒郊野岭守林人离奇死亡,尸身上长有42处带血的脓包…… 初始之章·张勋 以下内容为张勋视角 年9月15日...
    茶点故事阅读 36,570评论 2 327
  • 正文 我和宋清朗相恋三年,在试婚纱的时候发现自己被绿了。 大学时的朋友给我发了我未婚夫和他白月光在一起吃饭的照片。...
    茶点故事阅读 38,711评论 1 341
  • 序言:一个原本活蹦乱跳的男人离奇死亡,死状恐怖,灵堂内的尸体忽然破棺而出,到底是诈尸还是另有隐情,我是刑警宁泽,带...
    沈念sama阅读 34,388评论 4 332
  • 正文 年R本政府宣布,位于F岛的核电站,受9级特大地震影响,放射性物质发生泄漏。R本人自食恶果不足惜,却给世界环境...
    茶点故事阅读 40,018评论 3 316
  • 文/蒙蒙 一、第九天 我趴在偏房一处隐蔽的房顶上张望。 院中可真热闹,春花似锦、人声如沸。这庄子的主人今日做“春日...
    开封第一讲书人阅读 30,796评论 0 21
  • 文/苍兰香墨 我抬头看了看天上的太阳。三九已至,却和暖如春,着一层夹袄步出监牢的瞬间,已是汗流浃背。 一阵脚步声响...
    开封第一讲书人阅读 32,023评论 1 266
  • 我被黑心中介骗来泰国打工, 没想到刚下飞机就差点儿被人妖公主榨干…… 1. 我叫王不留,地道东北人。 一个月前我还...
    沈念sama阅读 46,461评论 2 360
  • 正文 我出身青楼,却偏偏与公主长得像,于是被迫代替她去往敌国和亲。 传闻我的和亲对象是个残疾皇子,可洞房花烛夜当晚...
    茶点故事阅读 43,595评论 2 350

推荐阅读更多精彩内容