解决NameNode配置HA后Hive路径不正确的问题

来源:互联网 发布:腊肠犬 知乎 编辑:程序博客网 时间:2024/05/21 17:07

解决NameNode配置HA后Hive路径不正确的问题


在CDH5.7下,配置了NameNode的HA后,Hive无正常查询数据了,但是其他的组件HDFS , HBase ,Spark都正常的。

Hive查询会出现如下异常:

FAILED: SemanticException Unable to determine if hdfs://bdc240.hexun.com:8020/user/hive/warehouse/test1 is encrypted: java.lang.IllegalArgumentException: Wrong FS: hdfs://bdc240.hexun.com:8020/user/hive/warehouse/test1, expected: hdfs://nameservice1


各种重装服务折腾都没有解决。


经朋友提醒应该是Hive元数据的问题,在Hive数据库中有两张表:

DBS  : Hive数据仓库的总路径

SDS  : Hive每张表对应的路径


数据库中保存了原来的hdfs的路径,修改成HA对应的别名即可


通常元数据库都采用mysql使用sql进行字段内容替换非常方便:

相关sql规范:

update 表名 set 字段名=REPLACE (字段名,'原来的值','要修改的值')

修改范例:

update DBS set DB_LOCATION_URI=REPLACE (DB_LOCATION_URI,'bdc240.hexun.com:8020','nameservice1');update SDS set LOCATION=REPLACE (LOCATION,'bdc240.hexun.com:8020','nameservice1');





3 0
原创粉丝点击