Metron扩展性:向平台添加新的数据源

来源:https://community.hortonworks.com/articles/30842/metron-extensibility-adding-a-new-data-source-to-t.html




来源:https://community.hortonworks.com/articles/30842/metron-extensibility-adding-a-new-data-source-to-t.html

简短描述:

一篇多部分的文章,介绍如何向平台添加一个新的自动测试记录数据源。

Apache Metron的一个关键设计原则是它应该易于扩展。我们设想许多用户使用Metron作为平台,并在其之上构建自定义功能;其中之一就是增加新的自动测试记录数据来源。在这个多部分文章系列中,我们将介绍如何添加一个新的数据自动测试记录数据源:Squid代理日志。

本系列文章由以下几部分组成:

1、本文:为这个多部分文章系列设置用例

2、用例1:收集和解析自动测试记录事件——本教程将指导您如何将事件收集/接收到Metron中,然后解析它们。

3、用例2:丰富自动测试记录数据——描述如何使用Apache Metron来丰富自动测试记录事件的元素。

4、用例3:添加/丰富/验证Intel威胁情报输入——描述如何向系统添加新的Intel威胁情报输入,以及每个自动测试记录数据如何交叉引用威胁情报数据。当发生命中时,将生成警报并显示在Metron UI上。

一、设置用例场景

Foo客户已经安装了Metron TP1,并且他们正在使用开箱即用的数据源(PCAP、YAF/Netflow、Snort和Bro)。他们喜欢Metron !但是现在他们想要向平台添加一个新的数据源:Squid代理日志。

以下为客户关于该新数据源的Metron要求:

1、来自Squid日志的代理事件需要实时接收;

2、必须将代理日志解析为Metron可以理解的标准JSON结构;

3、实时地,需要对squid代理事件进行丰富,使所域名信息丰富IP信息;

4、在实时的情况下,在代理事件中的IP必须与intel威胁情报进行检查;

5、如果与有英特尔威胁情报匹配,需要提高警报;

6、最终用户必须能够看到新的自动测试记录事件和来自新数据源的警报。

7、所有这些需求都需要在不编写任何新的java代码的情况下轻松实现。

二、Squid是什么?

Squid是支持HTTP、HTTPS、FTP等Web的缓存代理。它通过缓存和重用频繁请求的web页面来减少带宽并提高响应时间。有关Squid的详细信息,请参见Squid - cache.org。

三、Metron如何丰富Squid自动测试记录事件

当您从给定的主机建立到https://www.cnn.com的出站http连接时,以下条目将被添加到名为access.log的Squid文件中。

以下代表了Metron将对这个自动测试记录事件所做的魔法,因为它是实时的流到平台上。


四、要点

在这个多部分的文章系列中,我们将重点介绍一些要点。

我们将在不编写任何代码的情况下添加一个新的数据源。Metron力求易于扩展,这是一个很好的例子。

这是大多数自动测试记录数据源的可重复模式。

阅读下一篇文章,关于如何收集和推动数据到Metron,然后在Metron平台上解析数据:收集和解析自动测试数据。

©著作权归作者所有,转载或内容合作请联系作者
  • 序言:七十年代末,一起剥皮案震惊了整个滨河市,随后出现的几起案子,更是在滨河造成了极大的恐慌,老刑警刘岩,带你破解...
    沈念sama阅读 205,236评论 6 478
  • 序言:滨河连续发生了三起死亡事件,死亡现场离奇诡异,居然都是意外死亡,警方通过查阅死者的电脑和手机,发现死者居然都...
    沈念sama阅读 87,867评论 2 381
  • 文/潘晓璐 我一进店门,熙熙楼的掌柜王于贵愁眉苦脸地迎上来,“玉大人,你说我怎么就摊上这事。” “怎么了?”我有些...
    开封第一讲书人阅读 151,715评论 0 340
  • 文/不坏的土叔 我叫张陵,是天一观的道长。 经常有香客问我,道长,这世上最难降的妖魔是什么? 我笑而不...
    开封第一讲书人阅读 54,899评论 1 278
  • 正文 为了忘掉前任,我火速办了婚礼,结果婚礼上,老公的妹妹穿的比我还像新娘。我一直安慰自己,他们只是感情好,可当我...
    茶点故事阅读 63,895评论 5 368
  • 文/花漫 我一把揭开白布。 她就那样静静地躺着,像睡着了一般。 火红的嫁衣衬着肌肤如雪。 梳的纹丝不乱的头发上,一...
    开封第一讲书人阅读 48,733评论 1 283
  • 那天,我揣着相机与录音,去河边找鬼。 笑死,一个胖子当着我的面吹牛,可吹牛的内容都是我干的。 我是一名探鬼主播,决...
    沈念sama阅读 38,085评论 3 399
  • 文/苍兰香墨 我猛地睁开眼,长吁一口气:“原来是场噩梦啊……” “哼!你这毒妇竟也来了?” 一声冷哼从身侧响起,我...
    开封第一讲书人阅读 36,722评论 0 258
  • 序言:老挝万荣一对情侣失踪,失踪者是张志新(化名)和其女友刘颖,没想到半个月后,有当地人在树林里发现了一具尸体,经...
    沈念sama阅读 43,025评论 1 300
  • 正文 独居荒郊野岭守林人离奇死亡,尸身上长有42处带血的脓包…… 初始之章·张勋 以下内容为张勋视角 年9月15日...
    茶点故事阅读 35,696评论 2 323
  • 正文 我和宋清朗相恋三年,在试婚纱的时候发现自己被绿了。 大学时的朋友给我发了我未婚夫和他白月光在一起吃饭的照片。...
    茶点故事阅读 37,816评论 1 333
  • 序言:一个原本活蹦乱跳的男人离奇死亡,死状恐怖,灵堂内的尸体忽然破棺而出,到底是诈尸还是另有隐情,我是刑警宁泽,带...
    沈念sama阅读 33,447评论 4 322
  • 正文 年R本政府宣布,位于F岛的核电站,受9级特大地震影响,放射性物质发生泄漏。R本人自食恶果不足惜,却给世界环境...
    茶点故事阅读 39,057评论 3 307
  • 文/蒙蒙 一、第九天 我趴在偏房一处隐蔽的房顶上张望。 院中可真热闹,春花似锦、人声如沸。这庄子的主人今日做“春日...
    开封第一讲书人阅读 30,009评论 0 19
  • 文/苍兰香墨 我抬头看了看天上的太阳。三九已至,却和暖如春,着一层夹袄步出监牢的瞬间,已是汗流浃背。 一阵脚步声响...
    开封第一讲书人阅读 31,254评论 1 260
  • 我被黑心中介骗来泰国打工, 没想到刚下飞机就差点儿被人妖公主榨干…… 1. 我叫王不留,地道东北人。 一个月前我还...
    沈念sama阅读 45,204评论 2 352
  • 正文 我出身青楼,却偏偏与公主长得像,于是被迫代替她去往敌国和亲。 传闻我的和亲对象是个残疾皇子,可洞房花烛夜当晚...
    茶点故事阅读 42,561评论 2 343

推荐阅读更多精彩内容