在pycharm调试pyspark-streaming

来源:互联网 发布:中药方剂软件 编辑:程序博客网 时间:2024/05/17 06:55
1、添加环境变量:

2、添加py4j.zip和pyspark.zip

File->Setting->Project Structure->Add Content Root

参考目录:d:\spark-1.6.0-bin-hadoop2.6\python\lib



3、修改spark-defaults.conf

在spark目录下找到配置文件spark-defaults.conf,添加一行:

spark.jars.packages   org.apache.spark:spark-streaming-kafka_2.10:1.6.0
我的spark版本是1.6的,所以是org.apache.spark:spark-streaming-kafka_2.10:1.6.0



https://stackoverflow.com/questions/35560767/pyspark-streaming-with-kafka-in-pycharm

阅读全文
'); })();
0 0
原创粉丝点击
热门IT博客
热门问题 老师的惩罚 人脸识别 我在镇武司摸鱼那些年 重生之率土为王 我在大康的咸鱼生活 盘龙之生命进化 天生仙种 凡人之先天五行 春回大明朝 姑娘不必设防,我是瞎子 股票群qq交流号大全 股票期货群 免费股票群 股票的群 股票入门群 私募股票群 股票q群 股票群名称大全霸气 qq群 股票 股票交流群有哪些 股票群介绍 做股票的群 做股票的qq群 全国股票群 炒股票的群 股票qq群推荐 股票群吧 股票散户qq群 玩股票的群 股票免费群 股票期货qq群 关于股票群 有好的股票群吗 股票新手qq群 讨论股票的群 股票群公告 和讯股票群 股票软件qq群 股票群名称 股票群信息 股票qq群号大全 股票群规则 yy股票群 股票群论坛 全国股票qq群号 炒股高级群 炒股股票群 股票咨询公司 股票公告 大盘怎么看 成交量选股技巧