【工具】消息队列-kafka安装(windows)

来源:互联网 发布:Ubuntu centos 编辑:程序博客网 时间:2024/05/21 08:46

前言

        首先说一下kafka是什么,Kafka是一种高吞吐量的分布式发布订阅消息系统,它可以处理消费者规模的网站中的所有动作流数据。 这种动作(网页浏览,搜索和其他用户的行动)是在现代网络上的许多社会功能的一个关键因素。 这些数据通常是由于吞吐量的要求而通过处理日志和日志聚合来解决。 对于像Hadoop的一样的日志数据和离线分析系统,但又要求实时处理的限制,这是一个可行的解决方案。Kafka的目的是通过Hadoop的并行加载机制来统一线上和离线的消息处理,也是为了通过集群来提供实时的消费。

它具有以下名词:
Broker
        Kafka集群包含一个或多个服务器,这种服务器被称为broker
Topic
        每条发布到Kafka集群的消息都有一个类别,这个类别被称为Topic。(物理上不同Topic的消息分开存储,逻辑上一个Topic的消息虽然保存于一个或多个broker上但用户只需指定消息的Topic即可生产或消费数据而不必关心数据存于何处)
Partition
        Partition是物理上的概念,每个Topic包含一个或多个Partition.
Producer
        负责发布消息到Kafka broker
Consumer
        消息消费者,向Kafka broker读取消息的客户端。
Consumer Group
        每个Consumer属于一个特定的Consumer Group(可为每个Consumer指定group name,若不指定group name则属于默认的group)。
——摘自百度百科

1.安装jdk

Kafka是运行在JVM中的,所以需要有Java环境,安装过程略。

2.安装zookeeper 

        Kafka存储元信息、进行集群信息交换,节点的注册、发现,生产者和消费者的协同等都需要依赖zookeeper来实现。Zookeeper的安装过程略,下载完成后,需要将“conf/zoo_sample.cfg”重命名为“zoo.cfg”,也可以打开这个文件,修改其中的数据路径dataDir,端口号使用默认端口2181即可。

3.安装kafka

①下载地址:http://kafka.apache.org/downloads.html

②配置


zookeeper地址:


Kafka会默认在9092端口上运行,并连接zookeeper的默认端口:2181

③运行

1)启动zookeeper


2)定位到kafka根目录(或在该目录下shift+右键,在此处打开命令窗口)启动kafka服务

.\bin\windows\kafka-server-start.bat .\config\server.properties

3)保持kafka和zookeeper开启,打开新的小窗,创建topic

.\bin\windows\kafka-topics.bat --create --zookeeper localhost:2181 --replication-factor 1 --partitions 1 --topic test

4)开启新小窗,新建生产者

.\bin\windows\kafka-console-producer.bat --broker-list localhost:9092 --topic test

5)开启新小窗,新建消费者

.\bin\windows\kafka-console-producer.bat --broker-list localhost:9092 --topic test

6)生产者推送消息


总结

        基本上,kafka的基本入门安装就完成了。至于更深层次的组id,订阅消息,kafka集群等,之后的博客再做介绍。

原创粉丝点击