【终极解决】Java gateway&nb…

来源:互联网 发布:oracle 数据库日志 编辑:程序博客网 时间:2024/06/03 23:07
"D:\Program files\Anaconda2\python.exe"C:/Users/PycharmProjects/helloworld/spark1.py SPARK_HOME not inos.environ SPARK_JARS_DIR already set== D:\!spark-1.6.2\jars "setPYTHONHASHSEED=0" "run spark-class2.cmd" ϵͳ�Ҳ���ָ����·���� Failedto find Spark assembly JAR. You need to build Spark before runningthis program. Traceback (most recent call last): File"C:/Users/PycharmProjects/helloworld/spark1.py", line 70, in conf =SparkConf().setAppName(APP_NAME) #.setMaster("spark://10.120.21.80:8032") File "D:\Programfiles\Anaconda2\lib\site-packages\pyspark\conf.py", line 104, in__init__ SparkContext._ensure_initialized() File "D:\Programfiles\Anaconda2\lib\site-packages\pyspark\context.py", line 245, in_ensure_initialized SparkContext._gateway = gateway orlaunch_gateway() File "D:\Programfiles\Anaconda2\lib\site-packages\pyspark\java_gateway.py", line94, in launch_gateway raise Exception("Java gateway process exitedbefore sending the driver its port number")

Exception: Java gateway process exited before sending the driverits port number Process finished with exit code 1
  看到那斜杠不一的路径了吗?当你以为/和\是造成这个exception的关键的时候,其实关键问题并不是这个。配置pycharm打印出来的是乱码,是这个IDE的console没配置识别中文的问题。搜了一会儿没搜到怎么重整这个编码,之前在Java里实现一个console也发现了乱码问题,修理起来还是比较费劲的。
  好了,言归正传,这么多人遇到了Javagatewayprocess问题,说明是个非常头疼的问题。这个问题尤其头疼,是出现在配置windows下的PyCharm环境中。在windows下我也配置了Netbeans,能够成功跑通spark程序,没有任何问题,为什么到了PyCharm下就出毛病了呢?明明是同一个spark文件夹。结果,我发现,PyCharm,或者说pyspark环境,不能识别包含奇怪符号的目录
  我的路径D:\!bigdata\Spark里面有一个感叹号,然后,它就找不到jars了!!!!
  去掉这个感叹号,然后,它就好了!不报错了!
  所以,不要往spark路径里面添加奇怪的标点符号
0 0
原创粉丝点击