Apache Kafka -6 消费者示例
来源:互联网 发布:怎么应聘淘宝模特 编辑:程序博客网 时间:2024/06/07 05:16
Apache Kafka教程 之 Apache Kafka - 消费者示例
个人博客地址: http://blogxinxiucan.sh1.newtouch.com/2017/07/13/Apache-Kafka-消费者示例/
Apache Kafka - 消费者示例(Consumer Group)
Consumer Group是从kafka Topic的多线程或多机器消费。
Consumer Group
- 消费者可以使用相同的group.id
加入Group
。
- 组中的最大并行度是组中的消费者数量←不是分区。
- kafka将一个 Topic的分区分配给组中的消费者,以便每个分区由组中的一个消费者消耗。
- kafka保证消息只能由组内的单个消费者读取。
- 消费者可以按照日志中存储的顺序查看消息。
重新平衡消费者
添加更多进程/线程将导致kafka重新平衡。如果任何消费者或broker无法向ZooKeeper
发送心跳信息,则可以通过Kafka群集重新配置。在此重新平衡过程中,Kafka会将可用的分区分配给可用的线程,可能将分区移动到另一个进程。
import java.util.Properties;import java.util.Arrays;import org.apache.kafka.clients.consumer.KafkaConsumer;import org.apache.kafka.clients.consumer.ConsumerRecords;import org.apache.kafka.clients.consumer.ConsumerRecord;public class ConsumerGroup { public static void main(String[] args) throws Exception { if(args.length < 2){ System.out.println("Usage: consumer <topic> <groupname>"); return; } String topic = args[0].toString(); String group = args[1].toString(); Properties props = new Properties(); props.put("bootstrap.servers", "localhost:9092"); props.put("group.id", group); props.put("enable.auto.commit", "true"); props.put("auto.commit.interval.ms", "1000"); props.put("session.timeout.ms", "30000"); props.put("key.deserializer", "org.apache.kafka.common.serializa-tion.StringDeserializer"); props.put("value.deserializer", "org.apache.kafka.common.serializa-tion.StringDeserializer"); KafkaConsumer<String, String> consumer = new KafkaConsumer<String, String>(props); consumer.subscribe(Arrays.asList(topic)); System.out.println("Subscribed to topic " + topic); int i = 0; while (true) { ConsumerRecords<String, String> records = con-sumer.poll(100); for (ConsumerRecord<String, String> record : records) System.out.printf("offset = %d, key = %s, value = %s\n", record.offset(), record.key(), record.value()); } } }
汇编
javac -cp “/path/to/kafka/kafka_2.11-0.9.0.0/libs/*" ConsumerGroup.java
执行
>>java -cp “/path/to/kafka/kafka_2.11-0.9.0.0/libs/*":. ConsumerGroup <topic-name> my-group>>java -cp "/home/bala/Workspace/kafka/kafka_2.11-0.9.0.0/libs/*":. ConsumerGroup <topic-name> my-group
在这里,我们创建了一个示例组名称作为我的组与两个消费者。同样,您可以创建组中的组和消费者数量。
输入
打开生产者CLI并发送一些消息,如 -
Test consumer group 01Test consumer group 02
第一个过程的输出
Subscribed to topic Hello-kafkaoffset = 3, key = null, value = Test consumer group 01
第二过程的产出
Subscribed to topic Hello-kafkaoffset = 3, key = null, value = Test consumer group 02
现在希望您将通过使用Java客户端演示了解SimpleConsumer
和ConsumeGroup
。现在您了解如何使用Java客户端发送和接收消息。
1
Apache Kafka - 介绍 2
Apache Kafka -工作流程 3
Apache Kafka - 安装步骤 4
Apache Kafka - 基本操作 5
Apache Kafka - 生产者示例 6
Apache Kafka - 消费者示例 7
Apache Kafka - 与Storm集成 8
Apache Kafka - 与Spark集成
- Apache Kafka -6 消费者示例
- kafka 消费者代码示例
- kafka生产者、消费者java示例
- java实现Kafka的消费者示例
- kafka生产者与消费者java代码示例
- Apache Kafka -5 生产者示例
- kafka消费者
- Kafka生产者消费者java示例(包含Avro序列化)
- kafka本地java示例生产者与消费者,非ZK版
- kafka consumer demo 消费者
- kafka SimpleConsumerDemo 消费者
- kafka 生产者消费者配置
- kafka生产者消费者
- kafka C++ 生产者 消费者
- Kafka消费者生产者实例
- kafka生产者消费者
- [Apache Kafka]Kafka集成
- [Apache Kafka]Kafka运维
- Java太笨?,有些人不这么认为
- 亚马逊推荐系统20年
- 字符设备驱动基础篇4——字符设备驱动读写接口的操作实践
- Apache Kafka -5 生产者示例
- VS2013出现HTTP错误500.22
- Apache Kafka -6 消费者示例
- Apache Kafka -7 与Storm集成
- qsort函数、sort函数
- Netty实战(二)Netty服务器,采用Protobuf编解码
- Python-网络爬虫之BeautifulSoup(1)
- DAY2T2
- Ubuntu16.04.1 安装Nginx
- Apache Kafka -8 与Spark集成
- 找新朋友