简介
Apache Hive是一款数据仓库系统
功能
- 可以将存储在Hadoop(HDFS)中的数据映射为一张数据库表。
- 核心是将HQL语句转化为MapRece程序,然后提交到Hadoop执行。
组件
- 用户接口:CLI(shell命令行)、WebGUI、Thrift Server
- 元数据存储(Metastore):将表和HDFS文件的对应关系通常存储在mysql
- Hive Driver驱动程序(核心):语法解析、语法编译、优化器、执行器
- 执行引擎:MapReduce、Tez、Spark等
数据模型
Hive也有类似于关系型数据库的模型概念:
库 :
表 :
Partitions:分区,数据分区后存储在以分区字段命名的文件中。
Buckets:分桶,可以优化join查询和方便抽样查询