hive 操作

第一节:

hive作为大数据中重要组成的一部分,它是基于Hadoop的映射数据库表,其提供的Hue可以将简单的HQL语句转化为MapReduce任务执行,大大简化了学习成本;HQL大体上和SQL相同,只是有少部分sql语句在hql上兼容不好,具体出现的错误日后再行补上。

基础:

创建数据库:Create database  test;

创建数据表:Create table if not exists test(id int comment ‘序列号', name string comment ‘姓名',  age string comment ‘年龄', sex string comment '性别'….) ROW FORMAT DELIMITED FIELDS TERMINATED BY ‘,’  #  设置列分割符为’,’,为后面导入hdfs的csv文件作准备;  

    3.修改数据表结构: alter table test addcolumns(address  string); # 增加表列

修改表名称:alter table test rename to tt ;

修改列:ALTER TABLE test change name new_name string; 

删除列 : alter table test drop name;

删除表:drop table test ;

去除导入数据的第一行或最后一行:create table test(id int, name string) TBLPROPERTIES('skip.header.line.count’=‘*’/ ‘skip.footer.line.count'=‘*') # 去除首/尾 *行;

上传文件到HDFS:

    1. 将本地数据push到hdfs, hdfs dfs -put localfile_path remote_filepath;

2. 在hue上执行LOAD DATA INPATH ‘remote_filepath’[overwrite]INTO TABLE text; # 将hdfs的文件导入到hive中;

 注:如果导入数据出现Error while processing statement: FAILED: Execution Error, return code 1 from org.apache.hadoop.hive, 可能是hdfs文件权限问题; 解决方案:hdfs dfs -chomd 777  filename (文件在hdfs的路径);load data local inpath指的直接从本地文件中加载,先将本地文件拷贝到hdfs,然后再使用;overwrite 是将原先表的数据进行覆盖   3. select count(*) from test;  # 查询记录,验证数据是否导入成功;

    4.Select * from test limit 10;

5.SELECT DISTINCT('columns_name') from test;

在有了全量表之后,需要将全量表根据业务拆分为多张子表的需求时,可以根据字表的字段从全表中的数据选择性导入相应的数据,例如:

create table if not exists test1(id int comment ‘ID号’, name string comment '姓名’);

Insert overwrite table test1 select id, name from test; <一条一条数据插入效率很慢>

Create table if not exists test2 as select name from test; <复制非分区表>

如果是分区表,先要复制表结构: create table test3 like test; 之后将分区数据拷贝到对应的目录下:dfs -cp -f /user/hive/warehouse/test/* /user/hive/warehouse/test3/; 最后同步信息 msck repair  table test3;

上面所讲的所谓的内部表,还有一种叫做外部表,例如:

create external table if not exists ex_test(id int, name string, sex string) partitioned by(birth string) row format delimited fields terminated by ‘\t’ location ‘file_path’<文件在hdfs路径>

注:如果没有指定location,则会在/usr/hive/warehouse/建立一个表目录,之后将hdfs的数据移动到该目录下;

外部表和内部表的区别:内部表是将hdfs移动,当内部表删除之后,对应的数据也会被删除,而外部表则是删除之后,其数据还在指定的目录中;

Hive数据存储方式:1.Txtfile<默认,不压缩>; 2.sequencefile<二进制文件支持,压缩类型None,Record,Block>; 3.RcFile(直接对数据进行分开,保证同一个record在一个块上,加载开销大,但是压缩比大,查询响应快,推荐使用);4.Orcfile<后出来的>

第二节:

hive的分区操作,因为hive在大规模的数据中进行查询相关操作,适当的分区有助于提升查询数据的效率;

例如创建一个test表:

Create table if not exists test(id int, name string) partitioned by( sex string) row format delimited fields terminated by ‘,’ ;

根据性别sex进行分区,分区类似于将数据放在不同的文件夹下,因而在hive进行数据查找时可以根据where条件分区查找而不用进行全表扫描,从而提高效率;但也不是分区越多越好;由于分区对应的是hdfs上一个个小文件,当小文件过多,会导致mapper任务越多,从而导致初始化任务消耗资源过多,影响性能;而且hive的创建文件数有限制,太多分区可能超出限制导致出错;总之要根据实际的需求创建分区;

添加一个或多个分区:alter table test add partition(brith=’1992’), partition(birth=‘1995’),..;

删除分区:alter table test drop partition(birth=’1992’);

查看分区:show partitions test;

重命名分区: alter table test partition(birth=’1992’) rename to partition(birth=‘1995’);

同步hdfs的分区信息:msck repairtable test;

分桶表 == MapReduce分区:

将表按照字段列进行划分并排序;

Create table if not exists test(id int, name string, sex string) clustered by(id) sorted by (name string) into 4 buckets row format delimited fields terminated by ‘\t’ stored as textfile;

插入数据:

insert table 桶表名 select * from table **;

常用的内置方法:

Case when ‘’ then ‘’ else '' end ;

Select id, case when num>100 then ‘0-99’ when num<1000 then ‘100-1000’ else ‘>1000’ end from table_name ;

等同于: select id from table_name  where num<100 ; && select id from table_name  where num>100 and num<1000; && select id from table_name  where num>1000;

If (单个条件判断):

SELECT title, if(num>100,0,1) as n,num from car_back LIMIT 10;

最后编辑于
©著作权归作者所有,转载或内容合作请联系作者
  • 序言:七十年代末,一起剥皮案震惊了整个滨河市,随后出现的几起案子,更是在滨河造成了极大的恐慌,老刑警刘岩,带你破解...
    沈念sama阅读 203,937评论 6 478
  • 序言:滨河连续发生了三起死亡事件,死亡现场离奇诡异,居然都是意外死亡,警方通过查阅死者的电脑和手机,发现死者居然都...
    沈念sama阅读 85,503评论 2 381
  • 文/潘晓璐 我一进店门,熙熙楼的掌柜王于贵愁眉苦脸地迎上来,“玉大人,你说我怎么就摊上这事。” “怎么了?”我有些...
    开封第一讲书人阅读 150,712评论 0 337
  • 文/不坏的土叔 我叫张陵,是天一观的道长。 经常有香客问我,道长,这世上最难降的妖魔是什么? 我笑而不...
    开封第一讲书人阅读 54,668评论 1 276
  • 正文 为了忘掉前任,我火速办了婚礼,结果婚礼上,老公的妹妹穿的比我还像新娘。我一直安慰自己,他们只是感情好,可当我...
    茶点故事阅读 63,677评论 5 366
  • 文/花漫 我一把揭开白布。 她就那样静静地躺着,像睡着了一般。 火红的嫁衣衬着肌肤如雪。 梳的纹丝不乱的头发上,一...
    开封第一讲书人阅读 48,601评论 1 281
  • 那天,我揣着相机与录音,去河边找鬼。 笑死,一个胖子当着我的面吹牛,可吹牛的内容都是我干的。 我是一名探鬼主播,决...
    沈念sama阅读 37,975评论 3 396
  • 文/苍兰香墨 我猛地睁开眼,长吁一口气:“原来是场噩梦啊……” “哼!你这毒妇竟也来了?” 一声冷哼从身侧响起,我...
    开封第一讲书人阅读 36,637评论 0 258
  • 序言:老挝万荣一对情侣失踪,失踪者是张志新(化名)和其女友刘颖,没想到半个月后,有当地人在树林里发现了一具尸体,经...
    沈念sama阅读 40,881评论 1 298
  • 正文 独居荒郊野岭守林人离奇死亡,尸身上长有42处带血的脓包…… 初始之章·张勋 以下内容为张勋视角 年9月15日...
    茶点故事阅读 35,621评论 2 321
  • 正文 我和宋清朗相恋三年,在试婚纱的时候发现自己被绿了。 大学时的朋友给我发了我未婚夫和他白月光在一起吃饭的照片。...
    茶点故事阅读 37,710评论 1 329
  • 序言:一个原本活蹦乱跳的男人离奇死亡,死状恐怖,灵堂内的尸体忽然破棺而出,到底是诈尸还是另有隐情,我是刑警宁泽,带...
    沈念sama阅读 33,387评论 4 319
  • 正文 年R本政府宣布,位于F岛的核电站,受9级特大地震影响,放射性物质发生泄漏。R本人自食恶果不足惜,却给世界环境...
    茶点故事阅读 38,971评论 3 307
  • 文/蒙蒙 一、第九天 我趴在偏房一处隐蔽的房顶上张望。 院中可真热闹,春花似锦、人声如沸。这庄子的主人今日做“春日...
    开封第一讲书人阅读 29,947评论 0 19
  • 文/苍兰香墨 我抬头看了看天上的太阳。三九已至,却和暖如春,着一层夹袄步出监牢的瞬间,已是汗流浃背。 一阵脚步声响...
    开封第一讲书人阅读 31,189评论 1 260
  • 我被黑心中介骗来泰国打工, 没想到刚下飞机就差点儿被人妖公主榨干…… 1. 我叫王不留,地道东北人。 一个月前我还...
    沈念sama阅读 44,805评论 2 349
  • 正文 我出身青楼,却偏偏与公主长得像,于是被迫代替她去往敌国和亲。 传闻我的和亲对象是个残疾皇子,可洞房花烛夜当晚...
    茶点故事阅读 42,449评论 2 342

推荐阅读更多精彩内容