Impala 简介

Impala是Cloudera公司主导开发的新型查询系统,它提供SQL语义,能查询存储在Hadoop的HDFS和HBase中的PB级大数据。已有的Hive系统虽然也提供了SQL语义,但由于Hive底层执行使用的是MapReduce引擎,仍然是一个批处理过程,难以满足查询的交互性。相比之下,Impala的最大特点也是最大卖点就是它的快速。

外文名:Impala
开发公司:Cloudera公司
释义:一种新型查询系统
特点:快速作用提供SQL语义,能查询存储在Hadoop的HDFS和HBase中的PB级大数据
软件授权:开源免费

什么是Impala?
Impala是用于处理存储在Hadoop集群中的大量数据的MPP(大规模并行处理)SQL查询引擎。 它是一个用C ++和Java编写的开源软件。 与其他Hadoop的SQL引擎相比,它提供了高性能和低延迟。
换句话说,Impala是性能最高的SQL引擎(提供类似RDBMS的体验),它提供了访问存储在Hadoop分布式文件系统中的数据的最快方法。

优点

  • Impala不需要把中间结果写入磁盘,省掉了大量的I/O开销。
  • 省掉了MapReduce作业启动的开销。MapReduce启动task的速度很慢(默认每个心跳间隔是3秒钟),Impala直接通过相应的服务进程来进行作业调度,速度快了很多。
  • Impala完全抛弃了MapReduce这个不太适合做SQL查询的范式,而是像Dremel一样借鉴了MPP并行数据库的思想另起炉灶,因此可做更多的查询优化,从而省掉不必要的shuffle、sort等开销。
  • 通过使用LLVM来统一编译运行时代码,避免了为支持通用编译而带来的不必要开销。
  • 用C++实现,做了很多有针对性的硬件优化,例如使用SSE指令。
  • 使用了支持Data locality的I/O调度机制,尽可能地将数据和计算分配在同一台机器上进行,减少了网络开销。

功能

  • mpala可以根据Apache许可证作为开源免费提供。
  • Impala支持内存中数据处理,它访问/分析存储在Hadoop数据节点上的数据,而无需数据移动。 [2]
  • 使用类SQL查询访问数据。
  • Impala为HDFS中的数据提供了更快的访问。
  • 可以将数据存储在Impala存储系统中,如Apache HBase和Amazon s3。
  • Impala支持各种文件格式,如LZO,序列文件,Avro,RCFile和Parquet。
image.png
©著作权归作者所有,转载或内容合作请联系作者
平台声明:文章内容(如有图片或视频亦包括在内)由作者上传并发布,文章内容仅代表作者本人观点,简书系信息发布平台,仅提供信息存储服务。

推荐阅读更多精彩内容

  • Impala 简介 Impala提供直接在HDFS或者HBASE上进行查询的快速、交互式的SQL。类似于hive,...
    XH_zhao阅读 1,711评论 0 0
  • Apache Impala简介 目录 Apache Impala简介... 1 交互式SQL. 1 Impala主...
    静悟2020阅读 1,305评论 0 1
  • 在mysql新建一个数据库,供hive使用,然后在cm里新建hivecreate database hive ...
    文茶君阅读 2,192评论 0 0
  • 一、引言 最近在梳理大数据相关技术栈,查询引擎篇中重点介绍了Phoenix、Impala及Presto,一时想起自...
    大数据技术架构阅读 2,263评论 0 0
  • 上一篇:106-BigData-34CDH配置HA模式 一、Impala的基本概念 1.1 什么是ImpalaCl...
    AncientMing阅读 458评论 0 0