基于0.14.0版本配置HiveServer2

      项目中需要访问hive作为mondrian的异种数据源执行MDX查询，而我一般使用hive的时候都是直接通过hive命令行的方式直接执行SQL，或者通过hive的jar包在程序中访问，在这种方式的使用过程中，访问的hadoop集群都是公司的集群，之前测试hive的过程中记得自己对hive的jdbc源码进行了修改，主要是修改了一些hive在实现jdbc中没有实现但是抛出异常的接口，而mondrian会调用这些接口导致下面的流程走不下去了，整体的修改应该说还是比较简单的。另外一个问题是当时的hive是没有使用任何认证机制的，包括hadoop也是没有认证机制的，现在在公司的hadoop集群上跑需要使用kerberos认证，这一块自己还不熟悉，还只是知道怎么用，所以还需要恶补了一下关于kerberos认证的知识。

      下面介绍一下我对hive几种使用方式的理解，首先是hive的元数据库，它分为三种形式的，第一种是内嵌的derby数据库，这种方式由于derby会在当前目录创建一个目录，所以智能启动一个hive实例，第二种方式是使用远程数据库，也就是使用一个关系数据库系统，例如mysql等（目前只测试了mysql），hive通过jdbc连接mysql获取元数据信息，还有一种方式是hive自带的metaserver，这个server是用来关系元数据的，相当于在真正的元数据管理器之前又搭了一个服务。

      在使用的过程中主要有两种方式使用hive，第一种就是仅仅把hive作为一个可以对文件使用SQL查询的根据来使用，也就是直接使用hive命令行，亦或者在程序中使用hive提供的函数启动，在这种情况下我们只需要配置好hive元数据服务器（告诉hive存储了哪些数据库和表以及其属性）和hive的数据仓库目录（一般是一个HDFS的目录），经过测试数据仓库的目录只是在创建数据库的时候有作用，在创建表的时候会在所在数据库的目录下创建表的目录，另外还需要指定hadoop的配置文件和jar包，毕竟hive依赖于hadoop执行任务。

      第二种方式就是讲hive作为一个提供了SQL接口的数据库使用，我们可以通过jdbc的方式访问它，类似于使用mysql的方式，本文主要介绍的就是如何配置这个服务器并且使用hive自带的客户端以及使用jdbc的方式连接使用。

      接下来就是对hive进行环境配置了，对于hive，我的一般使用方式是使用远程的mysql做为源数据服务器。而不使用hive自带的matestore服务器，貌似后者能支持更大的并发，这个暂时没需求就简单的来，除了元数据库还有一个重点就是数据仓库地址，我配置的我的个人用户intern的目录/user/intern，具体配置如下：

<property>  <name>hive.metastore.warehouse.dir</name>  <value>/user/intern/</value>  <description>location of default database for the warehouse</description></property><property>  <name>javax.jdo.option.ConnectionURL</name>  <value>jdbc:mysql://127.0.0.1:3306/HIVE</value>  <description>JDBC connect string for a JDBC metastore</description></property><property>  <name>javax.jdo.option.ConnectionDriverName</name>  <value>com.mysql.jdbc.Driver</value>  <description>Driver class name for a JDBC metastore</description></property><property>  <name>javax.jdo.option.ConnectionUserName</name>  <value>root</value>  <description>username to use against metastore database</description></property><property>  <name>javax.jdo.option.ConnectionPassword</name>  <value>root</value>  <description>password to use against metastore database</description></property>

      另外，这里对于hive元数据的创建还需要注意一下，一般情况下我们会选择使用utf8作为数据库默认的字符集（应该是为了支持中文），但是如果你使用utf8字符集hive会出现很多莫名其妙的错误，让人摸不到头脑，所以需要再创建hive数据库的时候需要指定字符集为latin1，另外还可以让hive自动帮你创建（我没有尝试过，不知道是否可行）。

接下来还需要配置一些关于kerberos认证的东西，具体的配置内容如下：

<property>  <name>hive.server2.authentication</name>  <value>KERBEROS</value>  <description>    Client authentication types.       NONE: no authentication check       LDAP: LDAP/AD based authentication       KERBEROS: Kerberos/GSSAPI authentication       CUSTOM: Custom authentication provider               (Use with property hive.server2.custom.authentication.class)       PAM: Pluggable authentication module.  </description></property><property>  <name>hive.server2.authentication.kerberos.principal</name>  <value>hive/[e-mail]</value>  <description>    Kerberos server principal  </description></property><property>  <name>hive.server2.authentication.kerberos.keytab</name>  <value>/home/hzfengyu/hive.keytab</value>  <description>    Kerberos keytab file for server principal  </description></property>

      这三个配置项分别是配置hiveserver2的认证方式，如果配置不得当客户端会出现很多问题，默认情况下认证方式是CUSTOM，这里我们配置成KERBEROS，然后配置kerberos认证需要的keytab文件和principal，一般情况下我们执行kinit也就是需要这两样东西，不过不同的是这里的principal需要指定完成的，而不只是@符号前面的东西（kinit的时候只指定前面的东西就可以了），另外需要注意的是这里的keytab对应的用户必须在hadoop上具有可代理执行的权限，这是hiveserver2所需要的，也就是说其实hiveserver2只是一个指定代理的服务器，不同的用户通过jdbc连接到hiveserver2，根据客户端不同的keytab用户代理不同的用户执行具体的操作。如果该用户没有代理的权限，在使用jdbc和hiveserver2建立连接的时候会出现认证错误，错误的堆栈为：

15/05/01 17:32:33 [main]: ERROR transport.TSaslTransport: SASL negotiation failurejavax.security.sasl.SaslException: GSS initiate failed [Caused by GSSException: No valid credentials provided (Mechanism level: Server not found in Kerberos database (7) - UNKNOWN_SERVER)]     at com.sun.security.sasl.gsskerb.GssKrb5Client.evaluateChallenge(GssKrb5Client.java:212)     at org.apache.thrift.transport.TSaslClientTransport.handleSaslStartMessage(TSaslClientTransport.java:94)     at org.apache.thrift.transport.TSaslTransport.open(TSaslTransport.java:253)     at org.apache.thrift.transport.TSaslClientTransport.open(TSaslClientTransport.java:37)     at org.apache.hadoop.hive.thrift.client.TUGIAssumingTransport$1.run(TUGIAssumingTransport.java:52)     at org.apache.hadoop.hive.thrift.client.TUGIAssumingTransport$1.run(TUGIAssumingTransport.java:49)     at java.security.AccessController.doPrivileged(Native Method)

      这里我用的是hive用户，这个用户具有代理权限，而我使用jdbc连接的机器使用的用户是intern，首先在hive机器上执行启动hiveserver2的命令：

./bin/hive --service hiveserver2

然后再客户端的机器上通过hive自带的beeline进行连接：

./bin/beeline

然后使用connect命令连接hiveserver2：

beeline> !connect jdbc:hive2://hiveserver2-ip:10000/foodmart;principal=hive/[e-mail];scan complete in 34msConnecting to jdbc:hive2://bitest0.server.163.org:10000/foodmart;principal=hive/[e-mail];Enter username for jdbc:hive2://bitest0.server.163.org:10000/foodmart;principal=hive/[e-mail];:Enter password for jdbc:hive2://bitest0.server.163.org:10000/foodmart;principal=hive/[e-mail];:Connected to: Apache Hive (version 0.14.0)Driver: Hive JDBC (version 0.14.0)Transaction isolation: TRANSACTION_REPEATABLE_READ0: jdbc:hive2://bitest0.server.163.org:10000/> 

      连接的时候需要指定jdbc的url（默认的端口号为10000，也可以在hiveserver2的配置文件中配置），另外还需要制定服务器的principal，也就是在上面配置的那个hive.server2.authentication.kerberos.principal，而客户端用户使用的用户就是客户端的当前用户，可以使用klist查看。

除了使用自带的beeline连接，还可以在程序中使用jdbc进行连接，测试代码如下：

import java.io.IOException;import java.sql.Connection;import java.sql.DriverManager;import java.sql.ResultSet;import java.sql.SQLException;import java.sql.Statement;import org.apache.hadoop.conf.Configuration;import org.apache.hadoop.security.UserGroupInformation;public class TestHive {  public static void main(String[] args) throws SQLException {    try {      Class.forName("org.apache.hive.jdbc.HiveDriver");    } catch (ClassNotFoundException e) {      e.printStackTrace();    }    Configuration conf = new Configuration();conf.setBoolean("hadoop.security.authorization", true);conf.set("hadoop.security.authentication", "kerberos");UserGroupInformation.setConfiguration(conf);try {UserGroupInformation.loginUserFromKeytab("intern/bigdata", "C:\\Users\\Administrator\\Desktop\\intern.keytab");} catch (IOException e) {// TODO Auto-generated catch blocke.printStackTrace();}    Connection conn = DriverManager        .getConnection(            "jdbc:hive2://hiveserver2-ip:10000/foodmart;principal=hive/[e-mail];User=;Password=;",            "", "");    Statement stmt = conn.createStatement();    String sql = "select * from account limit 10";    System.out.println("Running: " + sql);    ResultSet res = stmt.executeQuery(sql);    while (res.next()) {      System.out.println(String.valueOf(res.getInt(1)) + "\t"          + res.getString(2));    }  }}

      好了，这里说完了如何搭建一个使用kerberos认证的hiveserver2，下一篇在介绍如何使用hive作为mondrian的数据源执行MDX查询。

      最后的最后，介绍一下遇到的一个最大的问题，在配置kerberos认证的时候，我使用的hive版本是0.13.1，按照上面的配置出现了如下的问题：

2015-04-30 17:02:22,602 ERROR [Thread-6]: thrift.ThriftCLIService (ThriftBinaryCLIService.java:run(93)) - Error: java.lang.NoSuchFieldError: SASL_PROPS        at org.apache.hadoop.hive.thrift.HadoopThriftAuthBridge20S.getHadoopSaslProperties(HadoopThriftAuthBridge20S.java:126)        at org.apache.hive.service.auth.HiveAuthFactory.getSaslProperties(HiveAuthFactory.java:116)        at org.apache.hive.service.auth.HiveAuthFactory.getAuthTransFactory(HiveAuthFactory.java:133)        at org.apache.hive.service.cli.thrift.ThriftBinaryCLIService.run(ThriftBinaryCLIService.java:43)        at java.lang.Thread.run(Thread.java:701)2015-04-30 17:02:22,605 INFO  [Thread[Thread-7,5,main]]: delegation.AbstractDelegationTokenSecretManager (AbstractDelegationTokenSecretManager.java:updateCurrentKey(222)) - Updating the current master key for generating delegation tokens2015-04-30 17:02:22,612 INFO  [Thread-3]: server.HiveServer2 (HiveStringUtils.java:run(623)) - SHUTDOWN_MSG: /************************************************************SHUTDOWN_MSG: Shutting down HiveServer2 at bitest0.server.163.org/10.120.36.85************************************************************/

        最后在google找了一下相关的错误，发现了HIVE的这个bug：https://issues.apache.org/jira/browse/HIVE-7620

不知道我遇到的是不是这个问题，但是无论如何就是解决不了这个问题（其实可以说是束手无策），我就换了一下hive的版本，上看说在0.14.0已经解决，我就换成了新的版本，果然这个问题不再出现了，至于到底是否由这个bug引起也不得而知了。