
原文出处: [黄勇](http://my.oschina.net/huangyong/blog/361751) RPC,即 Remote Procedure Call(远程过...
01.静态代码块 静态代码块使用static关键字进行修饰,运行在类初始化阶段(这点不清楚的同学需要恶补JVM知识哈),静态代码块只运行一次,主要用于类变量的初始化和赋值。静...
01.相关概念 final关键字主要用来修饰类、方法和字段;当修饰类的时候,表示该类是不可继承的;当修饰方法的时候,表示该方法不可重写;当修饰字段的时候,表示该字段内容不可更...
Task提交流程 在划分Stage之后,在对Task进行封装成为TaskSet然后提交给TaskScheduler。 提交流程源码解析 提交TaskSet 查看TaskSch...
WordCount的代码 主要是从HDFS读取文件后进行单词切割,然后进行计数,如果不懂RDD算子可以看RDD详解 WordCount的各个算子 SparkRDD的运行流程 ...
Executor启动流程流程图 源码分析 Executor进程的启动 这里我们需要追踪的方法是Master类中的schedule()方法内部的607行,这个方法的主要作用是向...
SparkContext内部执行的时序图 对于这个时序图的具体描述如下: 1.SparkSubmit在main()方法中执行,然后根据提交的类型调用相应的方法,这里是"Sub...
Spark执行流程 过程描述: 1.通过Shell脚本启动Master,Master类继承Actor类,通过ActorySystem创建并启动。 2.通过Shell脚本启动W...
01.引入 在业务开发中,我们常把数据持久化到数据库中。如果需要读取这些数据,除了直接从数据库中读取外,为了减轻数据库的访问压力以及提高访问速度,我们更多地引入缓存来对数据进...
01.模式动机 02.模式定义 03.模式结构 模板模式包含如下角色: 抽象模板(Abstract Template),具体模板(Concrete Template)。 04...
01.模式定义 完成一项任务,往往可以有多种不同的方式,每一种方式称为一个策略,我们可以根据环境或者条件的不同选择不同的策略来完成该项任务。 在软件开发中也常常遇到类似的情况...
01.模式动机 在软件设计中,我们经常需要向某些对象发送请求,但是并不知道请求的接收者是谁,也不知道被请求的操作是哪个,我们只需在程序运行时指定具体的请求接收者即可,此时,可...
01.模式动机 在某些情况下,一个客户不想或者不能直接引用一个对 象,此时可以通过一个称之为“代理”的第三者来实现 间接引用。代理对象可以在客户端和目标对象之间起到 中介的作...
01.模式动机 面向对象技术可以很好地解决一些灵活性或可扩展性问题,但在很多情况下需要在系统中增加类和对象的个数。当对象数量太多时,将导致运行代价过高,带来性能下降等问题。 ...
01.模式动机 设想一下在学校,你进宿舍的时候要用门禁卡,进入图书馆的时候要使用图书馆的卡,吃饭的时候要使用饭卡;一天你就要背着各种卡到处跑,尽管这些都不是很重,但是每次还有...
01.模式动机 在软件开发中采用类似于电源适配器的设计和编码技巧被称为适配器模式。 通常情况下,客户端可以通过目标类的接口访问它所提供的服务。有时,现有的类可以满足客户类的功...
01.模式动机 一般有两种方式可以实现给一个类或对象增加行为: 继承机制,使用继承机制是给现有类添加功能的一种有效途径,通过继承一个现有类可以使得子类在拥有自身方法的同时还拥...