Crontab执行java/spark-shell/spark-submit 异常解决方法
来源:互联网 发布:max809 数据手册 编辑:程序博客网 时间:2024/06/16 15:55
现象:
java/spark-shell/spark-submit 语句在linux shell中直接执行时没有任何问题,但是放到crontab中就出异常,且异常一般都抛在一些基础库里,让人感觉非常莫名,比如这种:
Traceback (most recent call last):
File "/usr/lib64/python2.4/logging/__init__.py", line 731, in emit
msg = self.format(record)
File "/usr/lib64/python2.4/logging/__init__.py", line 617, in format
return fmt.format(record)
File "/usr/lib64/python2.4/logging/__init__.py", line 408, in format
s = self._fmt % record.__dict__
KeyError: 'funcName'
原因:
由于crontab使用了自己独立的一套环境变量,与当前linux用户的path是不一样的。因此很多依赖于PATH的命令语句都会无法执行(比如依赖于python,或者依赖于java)。
可以看这里:https://stackoverflow.com/questions/2388087/how-to-get-cron-to-call-in-the-correct-paths
解决方法1:
#在当前用户的linux shell下执行下列命令,获取当前的path信息,复制到剪贴版中:
echo $PATH
#将PATH信息加入到crontab中:
crontab -e
#在文件首部新增两个空行,在第一行增加下列信息。其中<$PATH> 改为你剪贴板中的值:
PATH=<$PATH>
解决方法2:(该方法比较安全,推荐)
#直接依次运行如下命令修改crontab,而后crontab -e 就可以正常用了。
echo PATH=$PATH > tmp.cron
echo >> tmp.cron
crontab -l >> tmp.cron
crontab tmp.cron
转载请注明出处:http://blog.csdn.net/suranxu007/article/details/78562153
- Crontab执行java/spark-shell/spark-submit 异常解决方法
- shell执行spark-submit
- 定时执行spark-submit命令--Linux中使用crontab命令
- spark-submit
- spark-submit
- spark-submit
- spark-submit
- spark-submit
- spark-submit
- Spark 之 spark submit
- Spark spark-submit 参数
- spark-submit提交的shell脚本
- 执行spark-submit脚本报错
- spark-submit 和 spark-shell 后面可跟的参数
- other: Spark-shell和Spark-submit提交程序的区别
- spark源码阅读二-spark-submit执行过程
- 使用Crontab定时执行Spark任务
- crontab shell调用spark-sql,实现周期性动态SQL批量自动执行
- Hibernate之缓存(一级缓存及二级缓存)
- Product has no PO record
- android入门注意事项
- 一个好玩的东西 php+html做的
- flex布局justify-content属性和align-items,align-self属性
- Crontab执行java/spark-shell/spark-submit 异常解决方法
- ftp
- Java输入、输入、IO流 类层次关系梳理 阅读目录
- Maven(三)使用nexus搭建maven私服
- Swiper下的延迟加载
- Mac下安装brew及其他工具
- 简单工厂设计模式实现商店买牙膏收费案例过渡到结合策略模式的理由全解
- H5 监听手机浏览器 后台唤醒 激活
- 财富青岛