flume要点知识

flume是一款可以从不同的数据源把数据集中存到HDFS或者Hbase中,flume通过agent来完成接受收集数据,agent是一个独立的守护进程,从客户端处接受数据,传给下一个节点的agent,agent的内部有三个组件Source、channel、sink。

1.source:一个flume源,对一个外部数据源负责,将外部源上的事件以可以识别的格式发送到flume中,将事件传送给channel

2.channel:是一个短暂的存储容器,把source发送过来的event缓存起来,等到sink来消费掉,可以连接到任意数量的source和sink,channel是一个完整的事物,保证数据在接受和存储的时候达到一致性目的;可以通过参数设置event的数量;flume的channel有FileChannel和MemoryChannel,一般情况下使用前者,以保证数据不会丢失(wal:预写功能)

3.sink:从channel中消费数据,把数据存储到HDFS或者Hbase上,或者到下一个agent;sink取出event之后,channel中的event也被移除了

;sink必须对应一个确切的channel;

flume的数据流

flume可以对数据进行过滤,这个功能被称为Interceptor,这个功能被设置在source,一个source可以设置多个intercept,按照顺序处理,目前拦截形式有:timestamp、host、static等等

flume的可靠性:

1.处理过程中,如果因为各种原因,在某一步被迫结束了,这个数据会在下一次开启重新传输

2.channel会存储数据,以供再次可以传输

©著作权归作者所有,转载或内容合作请联系作者
【社区内容提示】社区部分内容疑似由AI辅助生成,浏览时请结合常识与多方信息审慎甄别。
平台声明:文章内容(如有图片或视频亦包括在内)由作者上传并发布,文章内容仅代表作者本人观点,简书系信息发布平台,仅提供信息存储服务。

相关阅读更多精彩内容

  • 博客原文 翻译作品,水平有限,如有错误,烦请留言指正。原文请见 官网英文文档 引言 概述 Apache Flume...
    rabbitGYK阅读 11,746评论 13 34
  • 阅读目录(Content) 一、Flume简介 二、Flume特点 三、Flume的一些核心概念 3.1、Agen...
    达微阅读 4,924评论 0 9
  • 一、Flume简介 flume 作为 cloudera 开发的实时日志收集系统,受到了业界的认可与广泛应用。Flu...
    superxcp阅读 1,087评论 0 2
  • 介绍 概述 Apache Flume是为有效收集聚合和移动大量来自不同源到中心数据存储而设计的可分布,可靠的,可用...
    ximengchj阅读 3,704评论 0 13
  • title: Flume构建日志采集系统date: 2018-02-03 19:45tags: [flume,k...
    溯水心生阅读 16,309评论 3 25

友情链接更多精彩内容