Phoenix的简单使用

Phoenix的常用操作

Phoenix是架构在Hbase上的一个SQL转化组件,它可以把sql语句转换成Hbase的一个或者多个扫描,然后分发到Hbase的Server端进行查询,提高了查询效率同时避免开发者写复杂的api代码,只需要会sql即可操作hbase的数据,大大降低了上手难度。

  • 前期准备
    想要通过phoenix查询Hbase的表必须先在phoenix建立映射表,映射到Hbase已存在的表,可以通过create view 和create table命令来实现
create view "t1" ("rowkey" varchar primary key,
"f1"."id" varchar,
"f2"."money" varchar,
"f1"."name" varchar,
) as select * from "t1";

create view和create table的区别是create table会加上一个验证信息,在phoenix删除表的时候table会把hbase对应的数据删除,view则不会。

  • 添加依赖
       <dependency>
            <groupId>org.apache.phoenix</groupId>
            <artifactId>phoenix-core</artifactId>
            <version>4.10.0-HBase-1.1</version>
        </dependency>

        <dependency>
            <groupId>org.apache.hadoop</groupId>
            <artifactId>hadoop-hdfs</artifactId>
            <version>2.6.3</version>
        </dependency>
        <dependency>
            <groupId>org.apache.hadoop</groupId>
            <artifactId>hadoop-common</artifactId>
            <version>2.6.3</version>
            <exclusions>
                <exclusion>
                    <groupId>org.slf4j</groupId>
                    <artifactId>slf4j-log4j12</artifactId>
                </exclusion>
            </exclusions>
        </dependency>

在添加phoenix的依赖时需要加上hadoop的依赖包,不然会报找不到hadoop下的配置文件

  • 建立连接

C3P0配置文件
使用C3p0连接池可以很好配置多数据源,另外phoenix在查询的时候建立连接的速度很慢,使用连接池可以大幅提高查询的速度。

  <?xml version="1.0" encoding="UTF-8"?>
  <c3p0-config>
    <named-config name="phoenix">
        <property name="user"></property>
        <property name="password"></property>
        <property name="driverClass">org.apache.phoenix.jdbc.PhoenixDriver</property>
      <!--url是zookeeper的地址,可以有多个,用逗号隔开-->
         <property name="jdbcUrl">jdbc:phoenix:localhost:2181</property>
        <!--当连接池中的连接耗尽的时候c3p0一次同时获取的连接数 -->
        <property name="acquireIncrement">2</property>
        <!--初始化时获取十个连接,取值应在minPoolSize与maxPoolSize之间 -->
        <property name="initialPoolSize">3</property>
        <!--连接池中保留的最小连接数 -->
        <property name="minPoolSize">3</property>
        <!--连接池中保留的最大连接数 -->
        <property name="maxPoolSize">10</property>
        <!--JDBC的标准参数,用以控制数据源内加载的PreparedStatements数量。但由于预缓存的statements属于单个connection而不是整个连接池。所以设置这个参数需要考虑到多方面的因素。如果maxStatements与maxStatementsPerConnection均为0,则缓存被关闭。Default:
            0 -->
        <property name="maxStatements">20</property>
        <!--maxStatementsPerConnection定义了连接池内单个连接所拥有的最大缓存statements数。Default: 0 -->
        <property name="maxStatementsPerConnection">5</property>
        <!-- 验证连接池里的连接(haproxy)有效性频率,这里配置120s  -->
        <property name="idleConnectionTestPeriod">120</property>
        <!-- 验证语句 select 1最高效 -->
        <property name="preferredTestQuery">select 1</property>
    </named-config>

</c3p0-config>

C3P0的连接代码这里就不贴出来了哈,和通用的sql连接一样

  • 常用语法

1.sum等聚合函数
在hbase的存储类型中,都是以字符串的形式存储,因此在对某些字段进行聚合操作时需要通过过to_number()函数把相应的字段转换成number类型。

select sum(to_number("money")) from t1;

2.分页
phoenix的分页不是像mysql的limit 1,3 这种分页语法,而是用limit 3 offset 0 来实现分页,另外phoenix的分页是从0开始不是1

select name from t1 limit 3 offset 0;

3.排序
在使用phoenix的排序时,phoenix会把0作为null排在最前面,使用nulls last 可以解决次问题

select name,sum(to_number("money")) as money from t1 group by name order by money desc  nulls last;
  • 二级索引
    rowkey是hbase的一级索引,所有的查询都通过rowkey来定位数据,但是面对复杂查询逻辑往往需要扫描全表来查询数据,这极大地降低了hbase的查询效率,这时就需要使用索引来提高查询的速度,在自己维护hbase的二级索引时十分繁琐,现在通过phoenix就可以建立索引。

1.覆盖索引
覆盖索引一旦找到了对应的索引,不需要返回主表,会直接把数据绑定到索引行,节省了读取的开销。

cteate index cover_index on t1(name,money) include(order)

上面语句的意思是在表t1的列name,money上创建索引cover_index,并在索引中包含了order列,防止从原始数据获取该列。
2.功能索引
功能索引允许不仅可以在列上而且可以在任意表达式上创建索引。然后,当一个查询时使用该表达式时,索引可以用来检索结果而不是数据表。
3.全局索引
建立全局索引主要是为了提高了读操作的性能,但在写操作的时候会损失一些性能,因为全局索引是建立了单独的habse表来存储索引表的索引数据

cteate index blobal_index on t1(name)

在使用全局索引时尽量条件包含到索引列,不然会导致扫描全表,影响效率。同时需要在每个RegionServer的hbase-site.xml配置文件下添加一下属性,用以支持全局或者本地索引。

<property>
<name>hbase.regionserver.wal.codec</name>
<value>org.apache.hadoop.hbase.regionserver.wal.IndexedWALEditCodec</value>
</property>

4.本地索引
本地索引主要适用于写多读少且空间非常有限的场景,与全局索引一样,Phoenix将自动选择是否在查询时适用本地索引。索引数据表和原始数据表都放在相同的服务器中,为了防止在写入期间出现额外的网络开销。但是即使查询的字段不是索引字段,本地索引也会被使用,与全局索引不同的是,所有的本地索引都单独存储在同一张共享的表中,因为无法预先确定Region的位置,所以在读数据的时候会检查每个Region上的数据,因此会带来一定的性能开销

#建立本地索引
create local index local_index  on t1(name);
#使用本地索引
select * from t1 where  name = 'xx';
最后编辑于
©著作权归作者所有,转载或内容合作请联系作者
  • 序言:七十年代末,一起剥皮案震惊了整个滨河市,随后出现的几起案子,更是在滨河造成了极大的恐慌,老刑警刘岩,带你破解...
    沈念sama阅读 203,547评论 6 477
  • 序言:滨河连续发生了三起死亡事件,死亡现场离奇诡异,居然都是意外死亡,警方通过查阅死者的电脑和手机,发现死者居然都...
    沈念sama阅读 85,399评论 2 381
  • 文/潘晓璐 我一进店门,熙熙楼的掌柜王于贵愁眉苦脸地迎上来,“玉大人,你说我怎么就摊上这事。” “怎么了?”我有些...
    开封第一讲书人阅读 150,428评论 0 337
  • 文/不坏的土叔 我叫张陵,是天一观的道长。 经常有香客问我,道长,这世上最难降的妖魔是什么? 我笑而不...
    开封第一讲书人阅读 54,599评论 1 274
  • 正文 为了忘掉前任,我火速办了婚礼,结果婚礼上,老公的妹妹穿的比我还像新娘。我一直安慰自己,他们只是感情好,可当我...
    茶点故事阅读 63,612评论 5 365
  • 文/花漫 我一把揭开白布。 她就那样静静地躺着,像睡着了一般。 火红的嫁衣衬着肌肤如雪。 梳的纹丝不乱的头发上,一...
    开封第一讲书人阅读 48,577评论 1 281
  • 那天,我揣着相机与录音,去河边找鬼。 笑死,一个胖子当着我的面吹牛,可吹牛的内容都是我干的。 我是一名探鬼主播,决...
    沈念sama阅读 37,941评论 3 395
  • 文/苍兰香墨 我猛地睁开眼,长吁一口气:“原来是场噩梦啊……” “哼!你这毒妇竟也来了?” 一声冷哼从身侧响起,我...
    开封第一讲书人阅读 36,603评论 0 258
  • 序言:老挝万荣一对情侣失踪,失踪者是张志新(化名)和其女友刘颖,没想到半个月后,有当地人在树林里发现了一具尸体,经...
    沈念sama阅读 40,852评论 1 297
  • 正文 独居荒郊野岭守林人离奇死亡,尸身上长有42处带血的脓包…… 初始之章·张勋 以下内容为张勋视角 年9月15日...
    茶点故事阅读 35,605评论 2 321
  • 正文 我和宋清朗相恋三年,在试婚纱的时候发现自己被绿了。 大学时的朋友给我发了我未婚夫和他白月光在一起吃饭的照片。...
    茶点故事阅读 37,693评论 1 329
  • 序言:一个原本活蹦乱跳的男人离奇死亡,死状恐怖,灵堂内的尸体忽然破棺而出,到底是诈尸还是另有隐情,我是刑警宁泽,带...
    沈念sama阅读 33,375评论 4 318
  • 正文 年R本政府宣布,位于F岛的核电站,受9级特大地震影响,放射性物质发生泄漏。R本人自食恶果不足惜,却给世界环境...
    茶点故事阅读 38,955评论 3 307
  • 文/蒙蒙 一、第九天 我趴在偏房一处隐蔽的房顶上张望。 院中可真热闹,春花似锦、人声如沸。这庄子的主人今日做“春日...
    开封第一讲书人阅读 29,936评论 0 19
  • 文/苍兰香墨 我抬头看了看天上的太阳。三九已至,却和暖如春,着一层夹袄步出监牢的瞬间,已是汗流浃背。 一阵脚步声响...
    开封第一讲书人阅读 31,172评论 1 259
  • 我被黑心中介骗来泰国打工, 没想到刚下飞机就差点儿被人妖公主榨干…… 1. 我叫王不留,地道东北人。 一个月前我还...
    沈念sama阅读 43,970评论 2 349
  • 正文 我出身青楼,却偏偏与公主长得像,于是被迫代替她去往敌国和亲。 传闻我的和亲对象是个残疾皇子,可洞房花烛夜当晚...
    茶点故事阅读 42,414评论 2 342

推荐阅读更多精彩内容