hawq入门

来源:互联网 发布:linux时间同步 编辑:程序博客网 时间:2024/05/22 12:15
1:高性能吞吐量和低延迟
HAWQ的并行处理架构提供了高性能吞吐量和低延迟 - 可能接近实时的查询响应,可以扩展到PB级数据集。在Hadoop本地操作。


SQL兼容性
利用熟悉的技能 实现基于SQL的应用程序和BI /数据可视化工具的更高级别的兼容性。执行复杂的查询和连接,包括汇总和嵌套查询。


Hadoop生态系统的可管理性和整合
集成和管理与YARN。提供Ambari。与HCatalog接口。HAWQ支持Parquet,AVRO,HBase等。轻松扩展或缩小节点以满足性能或容量要求。


2:HAWQ有一些弊端就是在使用的时候不支持update,delete等操作.
与此相对的postgresql的数据库就支持delete。
因此常会将HAWQ的数据导入postgresql中删除后再导入HAWQ.
但是导出的数据格式与Postgresql不同 ,需要修改。


3:HAWQ的最大改变就是将本地文件系统存储更换为了HDFS,成功的搭上了大数据库的班车。


4:HAWQ 结构
HAWQ在结构仍然是Master-Slave的主从模式,典型的部署方式仍然是在Master服务器上部署:HAWQ Master, HDFS Master, YARN ResouceManager, 在每一个SLAVE机器上部署: HAWQ segment, DataNode, NodeManager。


5:  HAWQ是一个基于HDFS的一个独立的数据库系统,若需要访问其它第三方数据,则还需要再安装HAWQ Extension Framework (PXF) 插件。PXF支持在HDFS上的Hive, Hbase数据,还支持用户开发自定义的其它并行数据源的连接器。


6:加载数据文件到表中
testdb=# COPY books(id,isbn,category,publish_date,publisher,price) 
testdb-# FROM '/tmp/books'
testdb-# WITH
testdb-# DELIMITER AS '|'


7:分区表
与传统DBMS系统类似,HAWQ也支持多种分区方法及多级分区,如List分区和Range分区。分区表对查询性能和数据可维护性都有很大帮助。

原创粉丝点击