"Exception: Python in worker has different version xx than that in driver xxx

来源:互联网 发布:杭州妙聚网络并购失败 编辑:程序博客网 时间:2024/06/05 02:52

即问题原因是pyspark的python环境与driver也就是主节点的python环境版本不一致


spark-submit提交程序,如若还是这个问题

在python代码中添加

import osos.environ['PYSPARK_PYTHON']='/usr/local/bin/pythonXXX' 

即可运行


也可以在/etc/spark/conf/spark-env.sh中添加如下代码,就无需在python代码中添加环境变量了

这里写图片描述

export PYSPARK_PYTHON=/usr/bin/pythonexport PYSPARK_DRIVER_PYTHON=/usr/bin/python
阅读全文
0 0
原创粉丝点击