常见问题----Spark Streaming 读取User Group ID设置
来源:互联网 发布:传智播客javaweb源码 编辑:程序博客网 时间:2024/06/16 05:03
在Spark Streaming DirectStream中设置User Group ID,优点是可跟踪Kafka中此Group ID的Offset,下次重启时从上次中断的地方开始读数据。但是如果Kafka中已经不保存对应Offset的数据,则会报java.lang.ClassNotFoundException: kafka.common.OffsetOutOfRangeException的错误。
解决方法:DirectStream修改User Group ID,或者采用KafkaConsumer的seek方法重设置此user group的offset,或者使用默认User Group ID
开发者社区活动,使用SODBASE产品的程序员现在可以领礼品啦
0 0
- 常见问题----Spark Streaming 读取User Group ID设置
- spark streaming读取HDFS
- spark streaming 读取网络数据
- Spark Streaming实时读取Kafka
- spark streaming 读取kafka 配置
- [命令技巧]chmod & Set-User-ID & Set-Group-ID
- linux 下user id 及 group id的分类
- spark streaming 读取kafka的offset
- Spark Streaming 读取本地文件压文件
- spark streaming 读取kafka数据问题
- spark streaming读取kafka数据,记录offset
- spark-streaming 读取kafka的方式
- Spark Streaming 读取Kafka数据写入Elasticsearch
- 测试设置用户ID set-user-id
- Linux > More on USER ID, Password, and Group management
- 与进程相关的几个ID,set-user-ID和set-group-ID
- Spark Streaming
- spark streaming
- View的事件分发机制
- Docker快速安装部署
- 一个Sqrt函数引发的血案
- String to Integer (atoi)
- char *p 定义时指定的值不可以修改
- 常见问题----Spark Streaming 读取User Group ID设置
- Spring官方文档学习(3)
- struts1.x、struts2.x、Spring MVC原理总结
- Java实现二叉查找树
- 顺序查找与二分查找
- Android启动错误init: untracked pid 1246 exited with status判断方法
- php中global的使用
- 作业7
- CocoaPods报错:The dependency `AFNetworking ` is not used in any concrete target