Kafka更新offset,scala反射调用进行测试
来源:互联网 发布:得力33113考勤软件 编辑:程序博客网 时间:2024/06/13 21:43
实现的类为KafkaCluster,自定义实现必须放在包名为
org.apache.spark.streaming.kafka
目录下,不然集群上会报错(当时打算采用反射来实现),打印参数发现不对,反射测试代码记录下
val cls = Class.forName("org.apache.spark.streaming.kafka.KafkaCluster") val clsLeaderOffset = Class.forName("org.apache.spark.streaming.kafka.KafkaCluster") //clsLeaderOffset.asInstanceOf[LeaderOffset] val constructors = cls.getConstructors constructors.foreach(constructor => {println("**********Class: " + constructor)}) //val methods = cls.getDeclaredMethods() //methods.foreach(method => {println("**********Methods: " + method)}) val kc = constructors(0).newInstance(kafkaParams) val getPartitions = cls.getDeclaredMethod("getPartitions", classOf[Set[String]]) val getConsumerOffsets = cls.getDeclaredMethod("getConsumerOffsets", classOf[String], classOf[Set[TopicAndPartition]]) val setConsumerOffsets = cls.getDeclaredMethod("setConsumerOffsets", classOf[String], classOf[Map[TopicAndPartition, Long]]) val getEarliestLeaderOffsets = cls.getDeclaredMethod("getEarliestLeaderOffsets", classOf[Set[TopicAndPartition]]) val getLatestLeaderOffsets = cls.getDeclaredMethod("getLatestLeaderOffsets", classOf[Set[TopicAndPartition]]) getPartitions.setAccessible(true) getConsumerOffsets.setAccessible(true) setConsumerOffsets.setAccessible(true) getEarliestLeaderOffsets.setAccessible(true) getLatestLeaderOffsets.setAccessible(true)
阅读全文
0 0
- Kafka更新offset,scala反射调用进行测试
- kafka监控Kafka Offset Monitor
- kafka offset判断
- Kafka-Offset-Monitor安装
- 重置kafka的offset
- kafka offset查询、提交
- Kafka Offset Storage
- Kafka Offset Storage
- kafka offset判断
- kafka-offset 存储方式
- kafka中的offset
- 如何用反射调用scala方法
- spark streaming程序因集群kafka版本不一致造成ZkUtils类无法更新offset解决方案
- Spark Streaming +Kafka 使用底层API直接读取Kafka的Partition数据,手动更新Offset到Zookeeper集群
- kafka auto.offset.reset介绍
- kafka 设置auto.offset.reset
- kafka 的offset的重置
- kafka的partition和offset
- KMP模板
- 用户权限管理系统的过滤器的优化
- TyvjP1045 最大的算式
- BZOJ3864 Hero meet devil
- 转载的Android studio 结构
- Kafka更新offset,scala反射调用进行测试
- 【算法题】买苹果
- 104-信号引起的竞争错误
- Jedis中hset散列相关操作
- 时间复杂度的计算
- 小Demo--狸菇凉_
- 游戏开发需要懂几种语言?
- 人工智能的可行性分析
- Android校招面试题 —— Android篇