Hive SQL基本操作(持续更新中......)

Hive表重命名

  • ALTER TABLE oldName RENAME TO newName;

查看Hive表简表语句

  • show create table tableName

查看表字段详情

  • desc tableName

插入多个值

  • insert into table dbName.tableName values ('bj','1234','哈哈'), ('ah','1245','菜鸡')

添加/删除分区

  • 添加分区:
    • alter table tableName add partition (dt='2019-02-12', du='0')
  • 删除分区:
    • alter table ods.ods_vas_user_order_increment drop partition (prov_alias='bj', dt='20200505')

添加字段

  • alter table dwd.dwd_vas_user_order_increment_day add columns (operation string comment 'add/update/delete', operation_dt string)

修改字段

  • ALTER TABLE dept.demo CHANGE name ename string comment '测试说明';

取多个字段中第几大的数

  • 取五个字段中最小的值(index=0)
    • sort_array(array(filed4,filed3,filed1,filed0,filed2))[0]
  • 取10个数字中最大的值(index=9)
    • sort_array(array(10,1,8,3,6,5,4,7,2,9))[9]

通过hdfs dfs -put或者hdfs api写入hive分区表的数据在hive中无法被查询到的问题

  • 用法:MSCK REPAIR TABLE tableName
  • 原理:将关于分区的元信息添加到Hive metastore中
  • 优点:避免频繁使用alter table add partition

往表分区插入数据时的注意事项

  • insert overwrite table tableName1 partition (c='ah') select a,b,c from tableName2;
  • 覆盖插入数据到指定表的指定分区(c='ah')时,插入数据不能再包括分区字段c,因为指定分区(c='ah')时已经就确定了分区字段的值'ah'。所以上述错误,应该把select后面的c删了。

日期减n天(Hive函数)

  • date_sub('2020-01-02',n)
  • 注意:这里的格式必须为'yyyy-mm-dd'

使用join on 时的注意是事项

  • 记住on后面一定使用‘=’,不要使用‘<>’
  • 等号‘=’前后的字段,为NULL的都会关联不上,一定注意
  • on后面的关联字段,如果存在重复值,则结果数据会翻倍

本地数据导入Hive

  • 从服务器本地加载文件进hive(csv2hive.csv中只能包含数据,不能包含字段名)
    • load data local inpath 'csv2hive.csv' overwrite into table tableName
  • 从服务器的分布式环境加载数据进hive(csv2hive.csv中只能包含数据,不能包含字段名)
    • load data inpath 'csv2hive.csv' overwrite into table tableName

往hdfs导入文件

  • hadoop fs -put < local/hdfs src > < hdfs dest >
  • hadoop fs -copyFromLocal < local src > < hdfs dest >

从hdfs导出文件

  • hadoop fs -get < hdfs src > < local/hdfs dest >
  • hadoop fs -copyToLocal < hdfs src > < local dest >

grouping sets与grouping__id

  • 案例如下:
    select id,
           city,
           type,
           sum(income),
           grouping__id
    from db.table
    group by id,city,type
    grouping_set(id,city,type,(id,city,type))
    
  • 上述代码是分别按照id、city、type、(id,city,type)进行group by,等价于下面代码
    select id,  null,null,sum(income),1 as grouping__id from db.table group by id
    union all
    select null,city,null,sum(income),2 as grouping__id from db.table group by city
    union all
    select null,null,type,sum(income),4 as grouping__id from db.table group by type
    union all
    select id,  city,type,sum(income),7 as grouping__id from db.table group by id,city,type
    
  • grouping__id的值怎么来的?
    • 注意案例中的'group by id,city,type'的顺序
id city type grouping__id
group by id 1 0 0 1×2^0 + 0×2^1 + 0×2^2 1
group by city 0 1 0 0×2^0 + 1×2^1 + 0×2^2 2
group by type 0 0 1 0×2^0 + 0×2^1 + 1×2^2 4
group by id,city,type 1 1 1 1×2^0 + 1×2^1 + 1×2^2 7

hive.auto.convert.join

  • hive.auto.convert.join待更新
最后编辑于
©著作权归作者所有,转载或内容合作请联系作者
  • 序言:七十年代末,一起剥皮案震惊了整个滨河市,随后出现的几起案子,更是在滨河造成了极大的恐慌,老刑警刘岩,带你破解...
    沈念sama阅读 216,402评论 6 499
  • 序言:滨河连续发生了三起死亡事件,死亡现场离奇诡异,居然都是意外死亡,警方通过查阅死者的电脑和手机,发现死者居然都...
    沈念sama阅读 92,377评论 3 392
  • 文/潘晓璐 我一进店门,熙熙楼的掌柜王于贵愁眉苦脸地迎上来,“玉大人,你说我怎么就摊上这事。” “怎么了?”我有些...
    开封第一讲书人阅读 162,483评论 0 353
  • 文/不坏的土叔 我叫张陵,是天一观的道长。 经常有香客问我,道长,这世上最难降的妖魔是什么? 我笑而不...
    开封第一讲书人阅读 58,165评论 1 292
  • 正文 为了忘掉前任,我火速办了婚礼,结果婚礼上,老公的妹妹穿的比我还像新娘。我一直安慰自己,他们只是感情好,可当我...
    茶点故事阅读 67,176评论 6 388
  • 文/花漫 我一把揭开白布。 她就那样静静地躺着,像睡着了一般。 火红的嫁衣衬着肌肤如雪。 梳的纹丝不乱的头发上,一...
    开封第一讲书人阅读 51,146评论 1 297
  • 那天,我揣着相机与录音,去河边找鬼。 笑死,一个胖子当着我的面吹牛,可吹牛的内容都是我干的。 我是一名探鬼主播,决...
    沈念sama阅读 40,032评论 3 417
  • 文/苍兰香墨 我猛地睁开眼,长吁一口气:“原来是场噩梦啊……” “哼!你这毒妇竟也来了?” 一声冷哼从身侧响起,我...
    开封第一讲书人阅读 38,896评论 0 274
  • 序言:老挝万荣一对情侣失踪,失踪者是张志新(化名)和其女友刘颖,没想到半个月后,有当地人在树林里发现了一具尸体,经...
    沈念sama阅读 45,311评论 1 310
  • 正文 独居荒郊野岭守林人离奇死亡,尸身上长有42处带血的脓包…… 初始之章·张勋 以下内容为张勋视角 年9月15日...
    茶点故事阅读 37,536评论 2 332
  • 正文 我和宋清朗相恋三年,在试婚纱的时候发现自己被绿了。 大学时的朋友给我发了我未婚夫和他白月光在一起吃饭的照片。...
    茶点故事阅读 39,696评论 1 348
  • 序言:一个原本活蹦乱跳的男人离奇死亡,死状恐怖,灵堂内的尸体忽然破棺而出,到底是诈尸还是另有隐情,我是刑警宁泽,带...
    沈念sama阅读 35,413评论 5 343
  • 正文 年R本政府宣布,位于F岛的核电站,受9级特大地震影响,放射性物质发生泄漏。R本人自食恶果不足惜,却给世界环境...
    茶点故事阅读 41,008评论 3 325
  • 文/蒙蒙 一、第九天 我趴在偏房一处隐蔽的房顶上张望。 院中可真热闹,春花似锦、人声如沸。这庄子的主人今日做“春日...
    开封第一讲书人阅读 31,659评论 0 22
  • 文/苍兰香墨 我抬头看了看天上的太阳。三九已至,却和暖如春,着一层夹袄步出监牢的瞬间,已是汗流浃背。 一阵脚步声响...
    开封第一讲书人阅读 32,815评论 1 269
  • 我被黑心中介骗来泰国打工, 没想到刚下飞机就差点儿被人妖公主榨干…… 1. 我叫王不留,地道东北人。 一个月前我还...
    沈念sama阅读 47,698评论 2 368
  • 正文 我出身青楼,却偏偏与公主长得像,于是被迫代替她去往敌国和亲。 传闻我的和亲对象是个残疾皇子,可洞房花烛夜当晚...
    茶点故事阅读 44,592评论 2 353

推荐阅读更多精彩内容

  • 文:医生时光 01 昨晚为祝贺朋友的女儿顺利升入大学,我们两家人一起聚了聚。 席间,我们才恍悟上一次两家聚会是在三...
    Odelia阅读 225评论 0 0
  • 吃完饭后,儿子突然吞吞吐吐的说想问我些事情,我问他什么事。他说问问关于谈恋爱的事情。 我脑子有一阵晕,看看儿子,知...
    阳光照进来的地方阅读 455评论 0 9
  • 2018年12月16日,星期日,晴 读经内容:《易经》,《黄帝内经》,《唐诗三百首》。 1.今天回娘家了,看到妈妈...
    女人心_a929阅读 111评论 0 2
  • 在没有人与人交接的场合,我充满了生命的欢悦。可是我一天不能克服这种咬啮性的小烦恼,生命是一袭华美的袍,爬满了蚤子。...
    泡泡绿阅读 247评论 0 0