intellij idea 上打jar包,放到集群上跑及hadoop使用
来源:互联网 发布:php怎么调用存储过程 编辑:程序博客网 时间:2024/06/03 19:25
1.查看日志:在程序中用System.out.println(),找到作业的地址,然后进入map,查看logs,里面的stdout显示,日志查看地址:在mr运行时cosole会有这个信息,例如一个作业的地址是:http://hadoop-rsp-01:19888/jobhistory/job/job_1510979182500_0047/
2.hadoop使用自己的jar包 不使用原生jar包
比如hadoop2.2.2 里面用的guava 是11.2的,我的工程的MR程序里面用的是16.0.1版本的;两个版本里面方法不同会导致MR的程序出现 异常;我们的目的是让hadoop运行MR的时候时候优先使用我们给项目打进去的lib包;在这里就是要使用guava.16.0.1.jar
解决:
(1) 只需要在hadoop/etc/mapred-site.xml 里面加上下面配置信息就ok
<property>
<name>mapreduce.job.user.classpath.first</name>
<value>true</value>
</property>
阅读全文
0 0
- intellij idea 上打jar包,放到集群上跑及hadoop使用
- 使用IntelliJ IDEA创建jar包及在集群上的提交方式
- SpringBoot打jar包放到Docker上
- 在intellij idea环境下,使用maven打jar包
- hadoop打成jar包放到服务器上运行问题集
- IntelliJ IDEA开发Spark、打JAR包
- intellij idea打war和jar包
- Intellij IDEA打jar包方式
- IntelliJ IDEA开发Spark、打JAR包
- IntelliJ IDEA开发Spark、打JAR包
- Linux下用Eclipse开发调试Hadoop程序后打jar包后,到Hadoop集群上运行
- Linux下用Eclipse开发调试Hadoop程序后打jar包后,到Hadoop集群上运行
- Intellij Idea 上使用 Lombok
- IntelliJ IDEA使用手册——打jar包
- IDEA 打jar包
- idea打jar包
- IDEA打jar包
- IDEA打jar包
- LeetCode --- 26. Remove Duplicates from Sorted Array
- 安装zabbix-server,进去里面页面提示:strtotime(): It is not safe to rely on the system's timezone settings.
- Linux vm wget 404 Not Found on Accelerator 解决
- 前端常见面试题整理
- Anaconda3 在开始菜单找不到Anaconda command prompt入口
- intellij idea 上打jar包,放到集群上跑及hadoop使用
- session&&Cookie
- iOS 开发是否要采用 React Native?
- SVO代码理解
- C++标准库tuple小例
- 深度学习系列4
- Linux Makefile与shell脚本区别
- 11.18C语言练习题
- Flash视频播放器开发经验总结