Spark优化-troubleshooting-解决各种序列化导致的错误
来源:互联网 发布:吴海啸是网络歌手吗 编辑:程序博客网 时间:2024/04/29 08:37
troubleshooting 解决各种序列化导致的错误
你会看到什么样的序列化导致的报错?
用client模式去提交spark作业,观察本地打印出来的log。如果出现了类似于Serializable、
Serialize等等字眼,报错的log,那么恭喜大家,就碰到了序列化问题导致的报错。
虽然是报错,但是序列化报错,应该是属于比较简单的了,很好处理。
序列化报错要注意的点:
1、你的算子函数里面,如果使用到了外部的自定义类型的变量,那么此时,就要求你的自定义类型,
必须是可序列化的。
final Teacher teacher = new Teacher("yasaka");
studentsRDD.foreach(new VoidFunction() {
public void call(Row row) throws Exception {
String teacherName = teacher.getName();
....
}
});
public class Teacher implements Serializable {
}
2、如果要将自定义的类型,作为RDD的元素类型,那么自定义的类型也必须是可以序列化的
JavaPairRDD<Integer, Teacher> teacherRDD
JavaPairRDD<Integer, Student> studentRDD
studentRDD.join(teacherRDD)
public class Teacher implements Serializable {
}
public class Student implements Serializable {
}
你会看到什么样的序列化导致的报错?
用client模式去提交spark作业,观察本地打印出来的log。如果出现了类似于Serializable、
Serialize等等字眼,报错的log,那么恭喜大家,就碰到了序列化问题导致的报错。
虽然是报错,但是序列化报错,应该是属于比较简单的了,很好处理。
序列化报错要注意的点:
1、你的算子函数里面,如果使用到了外部的自定义类型的变量,那么此时,就要求你的自定义类型,
必须是可序列化的。
final Teacher teacher = new Teacher("yasaka");
studentsRDD.foreach(new VoidFunction() {
public void call(Row row) throws Exception {
String teacherName = teacher.getName();
....
}
});
public class Teacher implements Serializable {
}
2、如果要将自定义的类型,作为RDD的元素类型,那么自定义的类型也必须是可以序列化的
JavaPairRDD<Integer, Teacher> teacherRDD
JavaPairRDD<Integer, Student> studentRDD
studentRDD.join(teacherRDD)
public class Teacher implements Serializable {
}
public class Student implements Serializable {
}
0 0
- Spark优化-troubleshooting-解决各种序列化导致的错误
- spark troubleshooting--解决各种序列化导致的错误
- troubleshooting之解决各种序列化导致的报错
- Spark优化-troubleshooting 解决算子函数返回NULL导致问题
- Spark优化-troubleshooting-错误的持久化方式以及checkpoint的使用
- Spark优化-troubleshooting-解决yarn-cluster模式的JVM栈内存溢出问题
- troubleshooting之解决算子函数返回NULL导致的问题
- spark troubleshooting--错误的持久化方式以及checkpoint的使用
- Spark-troubleshooting -JVM GC导致的shuffle文件拉取失败
- Spark-troubleshooting-yarn-client模式导致的网卡流量激增问题
- spark troubleshooting--JVM GC导致的shuffle文件拉取失败
- spark troubleshooting--yarn-client模式导致的网卡流量激增问题
- spark troubleshooting--YARN队列资源不足导致的application直接失败
- gcc优化导致的错误
- 解决mnist各种错误,优化提升
- Spark-troubleshooting-YARN队列资源不足导致app失效
- spark troubleshooting--算子函数返回NULL导致问题
- Spark TroubleShooting
- java基础学习总结——对象转型
- 实现cache缓存(Python)
- Fiddler对IPhone手机的数据进行抓包分析(转载)
- Openstack Ocata Nova Cell
- DIV css 相对父容器 水平、垂直 居中
- Spark优化-troubleshooting-解决各种序列化导致的错误
- 第一篇文章,感觉最近技术进步很慢希望和大家多多交流,共同进步吧
- 关于Strin中要注意的一些
- canvas
- 【深入Java虚拟机】之三:类初始化
- gui使用笔记
- Eclipse如何修改包名
- enum的使用
- 274. H-Index