Hadoop 学习笔记 1

Hadoop 基本组成结构

  1. Hadoop HDFS 分布式文件系统
  2. Map Reduce 分布式离线并行计算框架
  3. Hadoop YARN 作业调度、集群资源管理的框架
  4. Hadoop Common 支持其他模块的工具模块(Configuration、RPC、序列化机制、日志)

Map Reduce

Map 将原始任务进行拆分
Reduce 将任务的结果进行合并
MapReduce将分布式的方法进行了封装,简化了分布式程序的开发过程

基本Map Reduce 程序结构

Map 阶段

Reduce 阶段

Driver 阶段

Hadoop 序列化

序列化的作用是将内存中的对象转换成字节序列便于存储

©著作权归作者所有,转载或内容合作请联系作者
平台声明:文章内容(如有图片或视频亦包括在内)由作者上传并发布,文章内容仅代表作者本人观点,简书系信息发布平台,仅提供信息存储服务。

推荐阅读更多精彩内容