spark 未序列化

来源:互联网 发布:打字网络兼职 编辑:程序博客网 时间:2024/05/20 05:26

在执行spark脚本时报出spark未序列化异常,
解决办法:
在spark-defaults.conf文件中追加以下内容:
spark.serializer=org.apache.spark.serializer.KryoSerializer
spark.kryoserializer.buffer.max.mb=1024

把spark-defaults.conf文件scp到集群中每个node中~~~ 重启spark–>>OK

0 0
原创粉丝点击