RabbitMq、ActiveMq、ZeroMq、kafka之间的比较,资料汇总

来源:互联网 发布:工业机器人网络培训 编辑:程序博客网 时间:2024/06/16 23:54
_ ActiveMq RabbitMq Kafka RocketMq producer容错,是否会丢数据 有ack模型,也有事务模型,保证至少不会丢数据。ack模型可能会有重复消息,事务模型则保证完全一致 批量形式下,可能会丢数据。 非批量形式下, 1. 使用同步模式,可能会有重复数据。 2. 异步模式,则可能会丢数据。 consumer容错,是否会丢数据 有ack模型,数据不会丢,但可能会重复处理数据。 批量形式下,可能会丢数据。非批量形式下,可能会重复处理数据。(ZK写offset是异步的) 架构模型 基于JMS协议 基于AMQP模型,比较成熟,但更新超慢。RabbitMQ的broker由Exchange,Binding,queue组成,其中exchange和binding组成了消息的路由键;客户端Producer通过连接channel和server进行通信,Consumer从queue获取消息进行消费(长连接,queue有消息会推送到consumer端,consumer循环从输入流读取数据)。rabbitMQ以broker为中心;有消息的确认机制 producer,broker,consumer,以consumer为中心,消息的消费信息保存的客户端consumer上,consumer根据消费的点,从broker上批量pull数据;无消息确认机制。 吞吐量 rabbitMQ在吞吐量方面稍逊于kafka,他们的出发点不一样,rabbitMQ支持对消息的可靠的传递,支持事务,不支持批量的操作;基于存储的可靠性的要求存储可以采用内存或者硬盘。 kafka具有高的吞吐量,内部采用消息的批量处理,zero-copy机制,数据的存储和获取是本地磁盘顺序批量操作,具有O(1)的复杂度,消息处理的效率很高 可用性 rabbitMQ支持miror的queue,主queue失效,miror queue接管 kafka的broker支持主备模式 集群负载均衡 rabbitMQ的负载均衡需要单独的loadbalancer进行支持 kafka采用zookeeper对集群中的broker、consumer进行管理,可以注册topic到zookeeper上;通过zookeeper的协调机制,producer保存对应topic的broker信息,可以随机或者轮询发送到broker上;并且producer可以基于语义指定分片,消息发送到broker的某分片上 事务支持 支持 不支持 不支持 支持

其它参考资料:

RabbitMq、ActiveMq、ZeroMq、kafka之间的比较,资料汇总
http://blog.csdn.net/linsongbin1/article/details/47781187

Kafka Producer机制优化-提高发送消息可靠性
http://blog.csdn.net/lizhitao/article/details/52332956

腾讯 VS 阿里 VS 携程消息中间件设计方案及思路
http://blog.csdn.net/lizhitao/article/details/51718156

apache kafka技术分享系列(目录索引)
http://blog.csdn.net/lizhitao/article/details/39499283

十分钟入门RocketMQ
http://jm.taobao.org/2017/01/12/rocketmq-quick-start-in-10-minutes/

rocketmq 官网
http://rocketmq.incubator.apache.org/

MQ对比
https://wenku.baidu.com/view/53c7cb2c84254b35effd34c3.html

阅读全文
0 0