hive安装/启动以及源码调试

来源:互联网 发布:郑州电梯劝烟者 知乎 编辑:程序博客网 时间:2024/05/10 12:26

hive安装

1、安装hadoop并启动

2、安装hive

3、配置metastore(默认是derby,多用户操作时要改成mysql库)

metastore_db无权限,或在Embedded Metastore模式下启用多个客户端都会报

 Error in metadata: java.lang.RuntimeException: Unable to instantiate org.apache.hadoop.hive.metastore.HiveMetaStoreClient

 

cp hive-default.xml.template  hive-default.xml以及hive-site.xml  (hive-site.xml是个性化配置,优先级高于hive-default.xml)

配置hive-site.xml中的metastore配置:

<property>  <name>javax.jdo.option.ConnectionURL</name>  <value>jdbc:mysql://localhost:3306/hive?createDatabaseIfNotExist=true</value>  <description>JDBC connect string fora JDBC metastore</description></property><property>  <name>javax.jdo.option.ConnectionDriverName</name>  <value>com.mysql.jdbc.Driver</value>  <description>Driverclassname fora JDBC metastore</description></property><property>  <name>javax.jdo.option.ConnectionUserName</name>  <value>root</value>  <description>username to use against metastore database</description></property><property>  <name>javax.jdo.option.ConnectionPassword</name>  <value>XXX</value>  <description>password to use against metastore database</description></property>

记的添加Mysql的jar包到hive的lib中,否则 Error in metadata: java.lang.RuntimeException: Unable to instantiate org.apache.hadoop.hive.metastore.HiveMetaStoreClient

4、./hive就可以启动hive

5、hive thrift server

    hive --service hiveserver -p10001来启动hive thrift服务(默认为10000端口)

    nohup hive --service hiverserver -p10001可以在后台跑

6、排查问题时可以打开Hive的Debug日志,便于定位问题

./hive -hiveconf hive.root.logger=DEBUG,console


hive源码编译

1、启用debug监听(我采用的是0.11.0版本)

hive --debug  

debug模式只有在0.10.0以上版本才可以用。debug启动后会等待客户端连接,客户端连接上后就进入cli命令行

2、hive源码编译及eclipse调试

下载hive源码(可通过svn或下载src包),通过ant clean package eclipse-files后,导入到eclipse中。

监听hive debug时的远程端口,就可以进入debug模式。


hive脚本运行流程

hive启动脚本:hive脚本中加载ext中各*.sh中的方法 

hive servername server参数

如hive  --debug --help:   

流程中会判断$1=‘--debug’ 则$DEBUG=‘--debug’, 里面有 

if($DEBUG 存在){

 if $2   如--help,就会执行debug_help方法。

  else 设置HIVE_MAIN_CLIENT_DEBUG_OPTS的参数中加入debug相应参数

原创粉丝点击