hive使用mysql作为元数据库时的编码问题
来源:互联网 发布:入耳式耳机推荐知乎 编辑:程序博客网 时间:2024/05/21 10:39
hive的Specified key was too long; max key length is 767 bytes问题解决
解决一: FAILED: Error in metadata: javax.jdo.JDODataStoreException: Error(s) were found while auto-creatingalidating the datastore for classes. The errors are printed in the log, and are attached to this exception.
NestedThrowables:
com.mysql.jdbc.exceptions.jdbc4.MySQLSyntaxErrorException: Specified key was too long; max key length is 767 bytes
FAILED: Execution Error, return code 1 from org.apache.hadoop.hive.ql.exec.DDLTask
(略去 很多java 提示)
是到mysql中的hive数据库里执行 alter database hive character set latin1;改变hive元数据库的字符集,问题就可以解决!
建议:这种方式不好,有的字段应该是 latin1 ,而有的字段应该是 utf8;
解决方法二:hive元数据储存在mysql 字符集utf8 修改
注意:手动在mysql中创建数据库 创建数据库时要指定用 latin1 编码集;个别字段用到utf8编码集 须手动修改。
<property>
<name>javax.jdo.option.ConnectionURL</name>
<value>jdbc:mysql://IP:3306/hive?createDatabaseIfNotExist=true&characterEncoding=UTF-8<alue>
<description>JDBC connect string for a JDBC metastore</description>
</property>
表或者字段有中文的时候需要修改hive的元数据库的设置。
以mysql为例子,当mysql的字符集设置成utf8的时候使用hive会有问题
(com.mysql.jdbc.exceptions.jdbc4.MySQLSyntaxErrorException: Specified key was too long; max key length is 767 bytes )
所以当hive使用mysql作为元数据库的时候mysql的字符集要设置成latin1 default。
为了保存那些utf8的中文,要将mysql中存储注释的那几个字段的字符集单独修改为utf8。
修改字段注释字符集
alter table COLUMNS modify column COMMENT varchar(256) character set utf8;
修改表注释字符集
alter table TABLE_PARAMS modify column PARAM_VALUE varchar(4000) character set utf8;
最后别忘记修改hive的jdbc连接,将字符集修改为utf8,如
javax.jdo.option.ConnectionURL
jdbc:mysql://192.168.0.10:3306/hive?characterEncoding=UTF-8
JDBC connect string for a JDBC metastore
解决一: FAILED: Error in metadata: javax.jdo.JDODataStoreException: Error(s) were found while auto-creatingalidating the datastore for classes. The errors are printed in the log, and are attached to this exception.
NestedThrowables:
com.mysql.jdbc.exceptions.jdbc4.MySQLSyntaxErrorException: Specified key was too long; max key length is 767 bytes
FAILED: Execution Error, return code 1 from org.apache.hadoop.hive.ql.exec.DDLTask
(略去 很多java 提示)
是到mysql中的hive数据库里执行 alter database hive character set latin1;改变hive元数据库的字符集,问题就可以解决!
建议:这种方式不好,有的字段应该是 latin1 ,而有的字段应该是 utf8;
解决方法二:hive元数据储存在mysql 字符集utf8 修改
注意:手动在mysql中创建数据库 创建数据库时要指定用 latin1 编码集;个别字段用到utf8编码集 须手动修改。
<property>
<name>javax.jdo.option.ConnectionURL</name>
<value>jdbc:mysql://IP:3306/hive?createDatabaseIfNotExist=true&characterEncoding=UTF-8<alue>
<description>JDBC connect string for a JDBC metastore</description>
</property>
表或者字段有中文的时候需要修改hive的元数据库的设置。
以mysql为例子,当mysql的字符集设置成utf8的时候使用hive会有问题
(com.mysql.jdbc.exceptions.jdbc4.MySQLSyntaxErrorException: Specified key was too long; max key length is 767 bytes )
所以当hive使用mysql作为元数据库的时候mysql的字符集要设置成latin1 default。
为了保存那些utf8的中文,要将mysql中存储注释的那几个字段的字符集单独修改为utf8。
修改字段注释字符集
alter table COLUMNS modify column COMMENT varchar(256) character set utf8;
修改表注释字符集
alter table TABLE_PARAMS modify column PARAM_VALUE varchar(4000) character set utf8;
最后别忘记修改hive的jdbc连接,将字符集修改为utf8,如
javax.jdo.option.ConnectionURL
jdbc:mysql://192.168.0.10:3306/hive?characterEncoding=UTF-8
JDBC connect string for a JDBC metastore
0 0
- hive使用mysql作为元数据库时的编码问题
- 使用mysql作为hive的元数据库
- 使用mysql数据库作为Hive的元数据库
- 使用mysql数据库作为Hive的元数据库
- HIVE 安装系列(3)配置HIVE 使用Mysql作为元数据的数据库
- hive使用mysql作为元数据库启动报错分析
- mysql作为hive元数据库读取时提示communication failure
- Hive配置mysql作为元数据库
- hive的远程模式安装(用mysql作为hive的元数据库)
- hive设置mysql元数据编码问题
- hive使用mysql做元数据库,以及一些问题处理
- Ubuntu下安装hive,并配置mysql作为元数据库
- Ubuntu下安装hive,并配置mysql作为元数据库
- 在Hadoop2.42集群上安装hive,并将mysql作为元数据的管理数据库
- hive的安装(元数据库: MySQL)
- hive的安装(元数据库: MySQL)
- CDH 5.7.0 Hive使用Mysql作为元数据库,报unable to find the jdbc database jar on host
- Hive-1.1.0的注意事项之元数据库建表时的字段编码问题
- hdu 1715 大菲波数
- 将字符串转换成数字
- HDU-1281 棋盘游戏 二分图匹配匈牙利算法
- tomcat环境变量设置
- C++重写(override)、重载(overload)、重定义(redefine)以及虚函数调用机制【个人总结】
- hive使用mysql作为元数据库时的编码问题
- 测量CT和保护CT的区别
- 基于node.js的ARDrone控制
- hdu 1753 大明A+B
- 从零开始—实践打开咖啡导出的jar程序(以“sushu.jar“为例)
- (JAVA初学)String类中常用方法的简单应用
- JAVA多线程实现的三种方式
- 对Socket CAN的理解(5)——【Socket CAN控制器的初始化过程】
- Linux虚拟机中配置纯源码Lua环境