大数据工程师(开发)面试系列(6)

来源:互联网 发布:能微信提现的赚钱软件 编辑:程序博客网 时间:2024/05/17 22:19

由于其中一次谈到的内容比较少,所以本文是两次合并成一篇写的。

1. Kylin如何优化

:①经常需要group By查询的维度顺序在先;②基数近1:1的字段选择joint维度;③lookup表尽量避免基数大,更多的可以查看博客
: 《Apache Kylin cube优化指南》

2. Hive没有long类型你是怎么处理的?

:之前的项目,做的是Hive关联HBase外表,对于细节上的,比如类型转换可能当时出现问题了,留意一下,并没有过度深究,所以确实不了解。

Hive

从上图不难看出,Java的Long类型,Hive是通过BIGINT类型来处理的。

3. 简单介绍下HBase,HBase的查询性能怎样,和Hive相比,两者之间又有什么样的不同?

:HBase是列式NoSQL的数据库,适合基于历史数据的交互式查询,节点配置合理,每秒可以支持到3w+写性能;但是慎用scan,多用get,Hive是一个类SQL引擎,不做partition的话,会全表遍历,而遍历时基于的又是MapReduce所以查询性能没有HBase好。
:面试的时候说的比较笼统,scan在不做优化的时候,性能上会降低,针对scan的优化,可以看如下这幅图片:

hbase scan优化策略

HBase和Hive具体的区别,不妨看下如下三篇文章:
HBase 与 Hive 的区别和关系
hive与hbase的联系与区别
hive中partition如何使用

4. 有没有撘过Hadoop集群,搭建的是什么版本的?

:搭建过一个6个节点的基于原生的Hadoop。
:关于Hadoop2+以上集群的搭建,以及Hadoop生态圈的一些基本常识,这边刚好有【传智播客Hadoop 7天的视频资料】,感兴趣的童鞋不妨一起来学习学习:
链接:http://pan.baidu.com/s/1i4NeIW1 密码:koxl

0 0
原创粉丝点击