Hadoop离线数据分析平台实战——350公用代码重构

Hadoop离线数据分析平台实战——350公用代码重构

项目进度

模块名称 完成情况
用户基本信息分析(MR)� 完成
浏览器信息分析(MR) 完成
地域信息分析(MR) 未完成
外链信息分析(MR) 未完成
用户浏览深度分析(Hive) 未完成
订单分析(Hive) 未完成
事件分析(Hive) 未完成

MR程序公用代码重构

公用代码主要包括:

  1. Runner类中的参数处理代码,以及hbase的scan对象创建相关代码公用。
  2. Mapper类中获取hbase的value中的数据代码公用。
  3. 其他辅助作用的代码添加

mapper公用代码

  1. 编写TransformerBaseMapper类,在其中填写这个公用代码
  2. 更改MR程序中mapper类继承父类为TransformerBaseMapper, 然后进行代码修改。

Runner公用代码

  1. 编写TransformerBaseRunner类,在其中填写这个公用代码
  2. 更改MR程序中runner类继承父类为TransformerBaseRunner, 然后进行代码修改。

作业

  1. 自行将剩下的几个mapreduce代码进行更改,也就是讲mapper类更改为继承TransformerBaseMapper类,将runner类更改为继承TransformerBaseReducer类。
  2. 在TransformerBaseRunner类中,添加提取所有hbase列值的方法。
    (我会在下一讲中提交的代码中将这些进行全部的修改)。
最后编辑于
©著作权归作者所有,转载或内容合作请联系作者
【社区内容提示】社区部分内容疑似由AI辅助生成,浏览时请结合常识与多方信息审慎甄别。
平台声明:文章内容(如有图片或视频亦包括在内)由作者上传并发布,文章内容仅代表作者本人观点,简书系信息发布平台,仅提供信息存储服务。

相关阅读更多精彩内容

友情链接更多精彩内容