Spark vs Flink

本文主要引用并整理知乎作者billen pan2016年的文章

对比项目 Spark Flink
抽象 流式RDD的抽象,DStream 独立的DataSet(批处理)和DataStream对象
内存管理 1.5版本开始用tungsten,精确控制内存,不再直接用Java的内存管理 一直是自己管理内存
语言 scala开发,支持Java,Python,R Java开发,支持Scala
API 模仿scala的Collection API 模仿scala的Collection API
流式处理 微批当作流,准实时 批是流处理的特殊情况,类似storm,是event level的流处理
窗口 仅支持基于Processing Time的窗口 不仅支持Processing Time,还支持Data Time的窗口
数据源支持 比较丰富,NoSQL,Parquet,ORC等 较少,除了HDFS,还有MogoDB,以及通过FileInputFormat/FileOutputFormat作数据源聚合
SQL支持 比较成熟 也已经支持,作为最高层面的操作抽象
机器学习支持 执行模型是DAG,不支持有环的机器学习 支持有环的机器学习
出身 诞生于Map-Reduce时代,将纯流式计算引入大数据 一开始就着眼于流式处理
©著作权归作者所有,转载或内容合作请联系作者
平台声明:文章内容(如有图片或视频亦包括在内)由作者上传并发布,文章内容仅代表作者本人观点,简书系信息发布平台,仅提供信息存储服务。

推荐阅读更多精彩内容

  • Android 自定义View的各种姿势1 Activity的显示之ViewRootImpl详解 Activity...
    passiontim阅读 175,233评论 25 709
  • 用两张图告诉你,为什么你的 App 会卡顿? - Android - 掘金 Cover 有什么料? 从这篇文章中你...
    hw1212阅读 14,469评论 2 59
  • 简介 大数据是收集、整理、处理大容量数据集,并从中获得见解所需的非传统战略和技术的总称。虽然处理数据所需的计算能力...
    x_no_one阅读 5,881评论 0 3
  • 运营是什么? 我最开始的看法是:维护产品正常运作。具体是什么呢,确认产品的功能正常有效运作,保证产品在市场中的地位...
    围观大队阅读 1,261评论 0 0
  • 今天先生很早要到班,于是,家里的后勤保障全落在我身上。感赏自己动作麻利,把厨房整理好、衣服洗晒好才上班。 感赏儿子...
    苇絮轻扬阅读 780评论 0 3