kafka 的offset的重置
来源:互联网 发布:ubuntu怎么连接 编辑:程序博客网 时间:2024/06/07 05:56
最近在spark读取kafka消息时,每次读取都会从kafka最新的offset读取。但是如果数据丢失,如果在使用Kafka来分发消息,在数据处理的过程中可能会出现处理程序出异常或者是其它的错误,会造成数据丢失或不一致。这个时候你也许会想要通过kafka把数据从新处理一遍,或者指定kafka的offset读取。kafka默认会在磁盘上保存到7天的数据,你只需要把kafka的某个topic的consumer的offset设置为某个值或者是最小值,就可以使该consumer从你设置的那个点开始消费。这就需要从zk里面修改offset的值。
查询topic的offset的范围
用下面命令可以查询到topic:DynamicRange broker:SparkMaster:9092的offset的最小值:
bin/kafka-run-class.sh kafka.tools.GetOffsetShell --broker-list slave6:9092 -topic videoplay --time -2
输出
DynamicRange:0:1288
查询offset的最大值:
bin/kafka-run-class.sh kafka.tools.GetOffsetShell --broker-list slave6:9092 -topic videoplay --time -1
输出
DynamicRange:0:7885
从上面的输出可以看出topic:DynamicRange只有一个partition:0 offset范围为:[1288,7885]
设置consumer group的offset
启动zookeeper client
/zookeeper/bin/zkCli.sh
通过下面命令设置consumer group:DynamicRangeGroup topic:DynamicRange partition:0的offset为1288:
set /consumers/DynamicRangeGroup/offsets/DynamicRange/0 1288
注意如果你的kafka设置了zookeeper root,比如为/kafka,那么命令应该改为:
set /kafka/consumers/DynamicRangeGroup/offsets/DynamicRange/0 1288
生效
重启相关的应用程序,就可以从设置的offset开始读数据了。
参考:https://metabroadcast.com/blog/resetting-kafka-offsets
转自:http://www.cnblogs.com/hd-zg/p/5831219.html
0 0
- 重置kafka的offset
- kafka 的offset的重置
- kafka 的offset的重置
- kafka重置consumer的offset 数据重复消费
- kafka的partition和offset
- Kafka 0.8.2 新的offset管理
- sparkstreaming保存的kafka数据offset
- Kafka connect的offset commit机制
- spark streaming 读取kafka的offset
- java自己手动控制kafka的offset
- kafka的offset是个什么鬼。。
- 关于Kafka 的消息日志Offset 的了解
- Kafka通过timestamp获取offset的机制详解
- 关于kafka中的timestamp与offset的对应关系
- 关于kafka中的timestamp与offset的对应关系
- kafka consumer group的删除和offset恢复
- kaka-manager和kafka-offset-monitor的安装和使用
- 将 Spark Streaming + Kafka direct 的 offset 保存进入Zookeeper
- JavaScript学习笔记 CH.3 SEC.3 方法
- 笔试-大华2014
- Sciter:窗口阴影的一个坑
- 我的前端进阶学习(二)—— promise
- 2749: [HAOI2012]外星人
- kafka 的offset的重置
- 还原oracle数据库备忘
- java springmvc post表单提交问题
- Linux每天学习一个命令之find命令三
- 怎样注册MSCOMM控件
- Qt 的exe打包发布
- java根据图片路径下载图片并保存到本地目录
- java运行jar包
- Shrinking Raspberry Pi SD Card Images