什么是Checkpointing Checkpointing可以将RDD从其依赖关系中抽出来，保存到可靠的存储系统（例如HDFS，S3等)， 即...
投稿
收录了13篇文章 · 4人关注
-
关于Spark RDD API中的Checkpointing
-
关于Spark中的常见问题及解决方法(3) —— Aggregations操作
前言 如果你程序中的聚合速度较慢，请先查看 Spark Stragglers/任务执行缓慢部分。 主要症状 在执行 groupby 操作时，任务...
-
如何在Spark-shell中停止打印INFO日志
前言 在使用Spark-shell做一些测试时候会产生大量无用的INFO级别的日志，因此想把它们给禁用掉。具体方法如下。 解决方法 - 使用自定...
-
关于Spark中的常见问题及解决方法(5) ——Driver OutOfMemoryError或Driver Unresponsive
前言 Driver OutOfMemoryError或Driver Unresponsive是一个非常严重的问题，因为它会使我们的Spark应用...
-
[Spark学习] Spark RDD详解什么是RDD RDD(Resilient Distributed Datasets)，弹性分布式数据集，是Spark的基本数据结构。它是一个不可...
-
如何为Spark应用程序分配--num-executors，--execuor-cores和--executor-memory
前言 在我们提交spark程序时，应该如何为Spark集群配置--num-executors， - executor-memory和--exe...
-
关于Spark Dataset API中的Typed transformations和Untyped transformations
前言 学习Spark源代码的过程中遇到了Typed transformations和Untyped transformations两个概念，整理...
-
Spark概述Apache Spark Apache Spark是一个开源的分布式通用计算框架，具有(大部分)内存数据处理引擎，可以对大量的数据静态或者动态地...
-
Spark应用程序剖析
Spark应用程序剖析 每个Spark应用程序都从创建SparkContext开始。 若没有SparkContext，则不能启动计算（如Spar...
-
Spark程序的配置
Spark Application’s Configuration 提示：有关如何配置Spark和用户程序的详细信息，请参阅官方文档中的Spar...
专题公告
整理Spark学习中遇到的问题
{var%20f='http://v.t.sina.com.cn/share/share.php?appkey=1881139527',u=z||d.location,p=['&url=',e(u),'&title=',e(t||d.title),'&source=',e(r),'&sourceUrl=',e(l),'&content=',c||'gb2312','&pic=',e(p||'')].join('');function%20a(){if(!window.open([f,p].join(''),'mb',['toolbar=0,status=0,resizable=1,width=440,height=430,left=',(s.width-440)/2,',top=',(s.height-430)/2].join('')))u.href=[f,p].join('');};if(/Firefox/.test(navigator.userAgent))setTimeout(a,0);else%20a();})(screen,document,encodeURIComponent,'','','https://upload.jianshu.io/collections/images/1739113/rsz_apache.png', '推荐专题《Spark学习笔记》（ 分享自 @简书 ）','http://39.103.169.235/c/3c14a724c4c9?utm_campaign=maleskine&utm_content=collection&utm_medium=reader_share&utm_source=weibo','页面编码gb2312|utf-8默认gb2312'));){kind=link}