电商项目(Hive实现)

  • 外部表的使用
  • 基于ETL的数据加载到数据仓库
  • 使用Hive进行统计分析
    *对比 MR 和 Hive

查看表:

desc formatted <table_name>

MANAGED_TABLE:内部表
删除内部表:HDFS上的数据被删除 & Meta也被删除

创建外部表:

CREATE EXTERNAL TABLE emp_external(
empno int,
ename string,
job string,
mgr int,
hiredate string,
sal double,
comm double,
deptno int
) ROW FORMAT DELIMITED FIELDS TERMINATED BY '\t'
location '/external/emp/';

删除外部表: HDFS上的数据不被删除 & Meta被删除

上次ETL的数据:

create external table vvtrack_info(
ip string,
country string,
province string,
city string,
url string,
time string,
page string
) partitioned by (day string)
ROW FORMAT DELIMITED FIELDS TERMINATED BY '\t'
location '/project/vvtrackinfo/';

LOAD DATA INPATH 'hdfs://hadoop000:8020/project/input/etl' OVERWRITE INTO TABLE track_info partition(day='2013-07-21');

统计浏览量

select count(*) from vvtrack_info where day='2013-07-21';

统计省份:

select province, count(*) from vvtrack_info where day='2013-07-21 group by province;

省份统计表

create table vvtrack_info_province_stat(
province string,
cnt bigint
) partitioned by (day string)
ROW FORMAT DELIMITED FIELDS TERMINATED BY '\t';
insert overwrite table vvtrack_info_province_stat partition(day='2013-07-21') 
select province,count(*) as cnt from vvtrack_info where day='2013-07-21' group by province ;

1)ETL
2)把ETL输出的数据加载到track_info分区表里
3)各个维度统计结果的数据输出到各自维度的表里(track_info_province_stat)
4)将数据导出(optional)


查看函数

show functions

查看具体函数用法

desc function <function_name>

查看具体例子

desc function extended <function_name>
最后编辑于
©著作权归作者所有,转载或内容合作请联系作者
平台声明:文章内容(如有图片或视频亦包括在内)由作者上传并发布,文章内容仅代表作者本人观点,简书系信息发布平台,仅提供信息存储服务。

推荐阅读更多精彩内容

  • Hive 一、Hive概述 1). MapReducer的不足 HDFS上的文件并没有schema的概念(比如关系...
    哈哈大圣阅读 297评论 0 4
  • 一、Hive简介 1.1 Hive是什么 由Facebook开源的一款基于hadoop的用于统计海量结构化数据的一...
    这一刻_776b阅读 3,594评论 0 1
  • 概述 4V特征 Volume:数据量Variety:多样性、复杂性Velocity:速度Value:基于高度分析的...
    异同阅读 677评论 0 0
  • 1. SerDes and I/O hive.input.format默认 org.apache.hadoop.h...
    Chin_qf阅读 2,197评论 0 0
  • 版权声明:本文为博主原创文章,未经博主允许不得转载 https://blog.csdn.net/yu0_zhan...
    张_rong阅读 989评论 0 2