Spark高级面试问题join丢失节点、parquet大小

千万数据的join或者reduce过程中总是有任务节点丢失的情况?

田毅:这个是经常出现的问题,最常见原因还是GC导致的长时间卡住,导致心跳超时。可以参考intel他们最近在summit上分享的GC调优方面的实践。GC问题在1.4版本中已经得到改善,比如大量数据查重。

Spark生成parquet格式一般建议每个parquet多大?

田毅:这个我的建议是别弄太大,数据(压缩前)最好别超过128M,这个数不是绝对的,要看你的列数和压缩比。

阎志涛:我们的都在几百兆,parquet主要还是看你读取出多少列来。如果读出的列很多,性能就不一定好了。

最后编辑于
©著作权归作者所有,转载或内容合作请联系作者
【社区内容提示】社区部分内容疑似由AI辅助生成,浏览时请结合常识与多方信息审慎甄别。
平台声明:文章内容(如有图片或视频亦包括在内)由作者上传并发布,文章内容仅代表作者本人观点,简书系信息发布平台,仅提供信息存储服务。

相关阅读更多精彩内容

  • 预览 Spark SQL是Spark用于结构化数据处理的模块。不同于基本的RDD API,Spark SQL AP...
    sakersun阅读 5,121评论 0 2
  • spark-submit的时候如何引入外部jar包 在通过spark-submit提交任务时,可以通过添加配置参数...
    博弈史密斯阅读 7,873评论 1 14
  • Spark学习笔记 Data Source->Kafka->Spark Streaming->Parquet->S...
    哎哟喂喽阅读 11,690评论 0 51
  • Spark SQL的简介 1. 简介 Spark SQL是用于处理结构化数据的模块。与Spark RDD不同的是,...
    一生逍遥一生阅读 7,552评论 0 1
  • 个人心智的成长在人生的每个阶段都是很重要的。我不是说鸡汤。是在这个百变的时代唯有自我成长才不会被淘汰,而有些东西是...

友情链接更多精彩内容