cloudera mamager中配置hive加载第三方JAR
来源:互联网 发布:初中数学解题软件 编辑:程序博客网 时间:2024/05/19 23:11
问题出现
在将清洗过的log日志加载进入HIVE这一步中,由于log是采用了json的格式,所以需要使用第三方的jar进行格式转换。
使用JsonSerde
这里使用了JsonSerde
在hive shell 中只需要手动临时添加jar就可以了,但是退出后需要再次添加
add jar /opt/hive_lib/json-serde-1.3.8-jar-with-dependencies.jarLOAD DATA LOCAL INPATH '/opt/kafaka_log/2017-09-26-py.log' OVERWRITE INTO TABLE test.user_log partition (year=2017,month=09,date='2017-09-26')
永久添加JAR
但是当我们使用脚本进行数据加载的时候就会出现问题,无法成功将数据导入,这时候就需要在CDH中配置一下外部JAR的位置了。
创建目录/etc/hive/auxlib 并将对应的JAR放在这里,然后重启集群,一切搞定!
阅读全文
0 0
- cloudera mamager中配置hive加载第三方JAR
- cloudera mamager中配置hive加载自定义的jar包
- java中配置环境变量,命令行下加载第三方jar
- scala REPL中加载第三方jar包
- Hive如何添加第三方JAR
- Hive如何添加第三方JAR
- Cloudera Manager 中Oozie 配置HIVE workflow
- Android Studio加载第三方jar包
- Android Studio加载第三方jar包
- SpringBoot 加载第三方Jar包
- Hive和SparkSQL自定义UDF中依赖第三方Jar包
- Maven项目配置第三方jar包
- 导入和配置第三方jar包
- maven配置第三方jar包
- HIVE以及OOZIE添加第三方JAR包的方法
- HIVE以及OOZIE添加第三方JAR包的方法
- Android Application中打包第三方jar
- MapReduce中第三方jar的存放
- PostgreSQL学习(一)—常用修改表操作
- Android零基础入门第69节:ViewPager快速实现引导页
- 目标检测算法SSD在Ubuntu+CPU下运行
- ThinkPHP5中的事务操作
- 配置问题 vsphere HA 启动了虚拟机故障切换操作
- cloudera mamager中配置hive加载第三方JAR
- List遇到的问题
- [转载]TexturePacker的使用方法
- iOS NSOperation
- IP层负载均衡
- 《并发编程》--21.无锁的线程安全整数 AtomicInteger
- vim工具的使用(二)
- 汇编语言 第三版 王爽 div指令笔记
- 关于字符串转成数字的函数