spring+springmvc+kafka分布式消息中间件集成方案

Honghu的消息服务平台已经抛弃了之前的ActiveMQ，改用高吞吐量比较大的Kafka分布式消息中间件方案：

kafka消息平台使用spring+kafka的集成方案，详情如下：
1. 使用最高版本2.1.0.RELEASE集成jar包：spring-integration-kafka

2. Zookeeper、Kafka分布式集群使用init.properties配置化方案。

Java代码  

1. kafka.servers=127.0.0.1:9092    
2. kafka.topic=xxxooo  

kafka.servers=127.0.0.1:9092  kafka.topic=xxxooo

 
3. 使用消息生产者spring-context-producer配置化方案。

Java代码  

1. <?xml version="1.0" encoding="UTF-8"?>    
2. <beans xmlns="http://www.springframework.org/schema/beans"    
3.      xmlns:xsi="http://www.w3.org/2001/XMLSchema-instance"    
4.      xmlns:context="http://www.springframework.org/schema/context"    
5.      xsi:schemaLocation="http://www.springframework.org/schema/beans    
6.          http://www.springframework.org/schema/beans/spring-beans.xsd    
7.          http://www.springframework.org/schema/context    
8.          http://www.springframework.org/schema/context/spring-context.xsd">   
9.   
10.   
11.     <!-- 定义producer的参数 -->  
12.     <bean id="producerProperties" class="java.util.HashMap">  
13.         <constructor-arg>  
14.             <map>  
15.                 <entry key="bootstrap.servers" value="localhost:9092" />  
16.                 <entry key="group.id" value="2" />  
17.                 <entry key="retries" value="10" />  
18.                 <entry key="batch.size" value="16384" />  
19.                 <entry key="linger.ms" value="1" />  
20.                 <entry key="buffer.memory" value="33554432" />  
21.                 <entry key="key.serializer"  
22.                     value="org.apache.kafka.common.serialization.IntegerSerializer" />  
23.                 <entry key="value.serializer"  
24.                     value="org.apache.kafka.common.serialization.StringSerializer" />  
25.             </map>  
26.         </constructor-arg>  
27.     </bean>  
28.   
29.     <!-- 创建kafkatemplate需要使用的producerfactory bean -->  
30.     <bean id="producerFactory"  
31.         class="org.springframework.kafka.core.DefaultKafkaProducerFactory">  
32.         <constructor-arg>  
33.             <ref bean="producerProperties" />  
34.         </constructor-arg>  
35.     </bean>  
36.   
37.     <!-- 创建kafkatemplate bean，使用的时候，只需要注入这个bean，即可使用template的send消息方法 -->  
38.     <bean id="KafkaTemplate" class="org.springframework.kafka.core.KafkaTemplate">  
39.         <constructor-arg ref="producerFactory" />  
40.         <constructor-arg name="autoFlush" value="true" />  
41.         <property name="defaultTopic" value="test" />  
42.     </bean>  
43. </beans>  

<?xml version="1.0" encoding="UTF-8"?>  <beans xmlns="http://www.springframework.org/schema/beans"       xmlns:xsi="http://www.w3.org/2001/XMLSchema-instance"       xmlns:context="http://www.springframework.org/schema/context"       xsi:schemaLocation="http://www.springframework.org/schema/beans           http://www.springframework.org/schema/beans/spring-beans.xsd           http://www.springframework.org/schema/context           http://www.springframework.org/schema/context/spring-context.xsd"> <!-- 定义producer的参数 --><bean id="producerProperties" class="java.util.HashMap"><constructor-arg><map><entry key="bootstrap.servers" value="localhost:9092" /><entry key="group.id" value="2" /><entry key="retries" value="10" /><entry key="batch.size" value="16384" /><entry key="linger.ms" value="1" /><entry key="buffer.memory" value="33554432" /><entry key="key.serializer"value="org.apache.kafka.common.serialization.IntegerSerializer" /><entry key="value.serializer"value="org.apache.kafka.common.serialization.StringSerializer" /></map></constructor-arg></bean><!-- 创建kafkatemplate需要使用的producerfactory bean --><bean id="producerFactory"class="org.springframework.kafka.core.DefaultKafkaProducerFactory"><constructor-arg><ref bean="producerProperties" /></constructor-arg></bean><!-- 创建kafkatemplate bean，使用的时候，只需要注入这个bean，即可使用template的send消息方法 --><bean id="KafkaTemplate" class="org.springframework.kafka.core.KafkaTemplate"><constructor-arg ref="producerFactory" /><constructor-arg name="autoFlush" value="true" /><property name="defaultTopic" value="test" /></bean></beans>

 
4. 使用消息消费者spring-context-producer配置化方案。

Java代码  

1. <?xml version="1.0" encoding="UTF-8"?>    
2. <beans xmlns="http://www.springframework.org/schema/beans"    
3.      xmlns:xsi="http://www.w3.org/2001/XMLSchema-instance"    
4.      xmlns:context="http://www.springframework.org/schema/context"    
5.      xsi:schemaLocation="http://www.springframework.org/schema/beans    
6.          http://www.springframework.org/schema/beans/spring-beans.xsd    
7.          http://www.springframework.org/schema/context    
8.          http://www.springframework.org/schema/context/spring-context.xsd">   
9.   
10.   
11.     <!-- 定义consumer的参数 -->  
12.     <bean id="consumerProperties" class="java.util.HashMap">  
13.         <constructor-arg>  
14.             <map>  
15.                 <entry key="bootstrap.servers" value="localhost:9092" />  
16.                 <entry key="group.id" value="0" />  
17.                 <entry key="enable.auto.commit" value="true" />  
18.                 <entry key="auto.commit.interval.ms" value="1000" />  
19.                 <entry key="session.timeout.ms" value="15000" />  
20.                 <entry key="key.deserializer"  
21.                     value="org.apache.kafka.common.serialization.IntegerDeserializer" />  
22.                 <entry key="value.deserializer"  
23.                     value="org.apache.kafka.common.serialization.StringDeserializer" />  
24.             </map>  
25.         </constructor-arg>  
26.     </bean>  
27.   
28.     <!-- 创建consumerFactory bean -->  
29.     <bean id="consumerFactory"  
30.         class="org.springframework.kafka.core.DefaultKafkaConsumerFactory">  
31.         <constructor-arg>  
32.             <ref bean="consumerProperties" />  
33.         </constructor-arg>  
34.     </bean>  
35.   
36.     <!-- 实际执行消息消费的类 -->  
37.     <bean id="messageListernerConsumerService" class="com.sml.sz.kafka.KafKaConsumer" />  
38.   
39.     <!-- 消费者容器配置信息 -->  
40.     <bean id="containerProperties"  
41.         class="org.springframework.kafka.listener.config.ContainerProperties">  
42.         <constructor-arg value="test" />  
43.         <property name="messageListener" ref="messageListernerConsumerService" />  
44.     </bean>  
45.   
46.     <!-- 创建kafkatemplate bean，使用的时候，只需要注入这个bean，即可使用template的send消息方法 -->  
47.     <bean id="messageListenerContainer"  
48.         class="org.springframework.kafka.listener.KafkaMessageListenerContainer"  
49.         init-method="doStart">  
50.         <constructor-arg ref="consumerFactory" />  
51.         <constructor-arg ref="containerProperties" />  
52.     </bean>  
53. </beans>    

<?xml version="1.0" encoding="UTF-8"?>  <beans xmlns="http://www.springframework.org/schema/beans"       xmlns:xsi="http://www.w3.org/2001/XMLSchema-instance"       xmlns:context="http://www.springframework.org/schema/context"       xsi:schemaLocation="http://www.springframework.org/schema/beans           http://www.springframework.org/schema/beans/spring-beans.xsd           http://www.springframework.org/schema/context           http://www.springframework.org/schema/context/spring-context.xsd"> <!-- 定义consumer的参数 --><bean id="consumerProperties" class="java.util.HashMap"><constructor-arg><map><entry key="bootstrap.servers" value="localhost:9092" /><entry key="group.id" value="0" /><entry key="enable.auto.commit" value="true" /><entry key="auto.commit.interval.ms" value="1000" /><entry key="session.timeout.ms" value="15000" /><entry key="key.deserializer"value="org.apache.kafka.common.serialization.IntegerDeserializer" /><entry key="value.deserializer"value="org.apache.kafka.common.serialization.StringDeserializer" /></map></constructor-arg></bean><!-- 创建consumerFactory bean --><bean id="consumerFactory"class="org.springframework.kafka.core.DefaultKafkaConsumerFactory"><constructor-arg><ref bean="consumerProperties" /></constructor-arg></bean><!-- 实际执行消息消费的类 --><bean id="messageListernerConsumerService" class="com.sml.sz.kafka.KafKaConsumer" /><!-- 消费者容器配置信息 --><bean id="containerProperties"class="org.springframework.kafka.listener.config.ContainerProperties"><constructor-arg value="test" /><property name="messageListener" ref="messageListernerConsumerService" /></bean><!-- 创建kafkatemplate bean，使用的时候，只需要注入这个bean，即可使用template的send消息方法 --><bean id="messageListenerContainer"class="org.springframework.kafka.listener.KafkaMessageListenerContainer"init-method="doStart"><constructor-arg ref="consumerFactory" /><constructor-arg ref="containerProperties" /></bean></beans>  

 
5. 使用注解方式注入消息类型

@Autowired  

private KafkaTemplate<xxx, ooo> kafkaTemplate;

6. 重写MessageListener 的getMessage方法获取消息（业务实现）

7. RestFul服务方式测试消息服务

Java代码  

1. @CrossOrigin(origins = "*", maxAge = 3600, methods = { RequestMethod.GET, RequestMethod.POST, RequestMethod.DELETE,  
2.         RequestMethod.PUT })  
3. @RestController  
4. @RequestMapping(value = "/rest/kafka")  
5. public class KafKaProducer {  
6.       
7.     @RequestMapping(value = "/send", method = RequestMethod.GET)  
8.     public JSONObject save() {  
9.         System.out.println("+++++++++++++++++++++++++++++++");  
10.         kafkaTemplate.sendDefault("HongHu KAFKA分布式消息服务测试");    
11.         return null;  
12.     }  
13.       
14.     @Autowired    
15.     private KafkaTemplate<Integer, String> kafkaTemplate;  
16.       
17.     
18.   
19. }  

@CrossOrigin(origins = "*", maxAge = 3600, methods = { RequestMethod.GET, RequestMethod.POST, RequestMethod.DELETE,RequestMethod.PUT })@RestController@RequestMapping(value = "/rest/kafka")public class KafKaProducer {@RequestMapping(value = "/send", method = RequestMethod.GET)public JSONObject save() {System.out.println("+++++++++++++++++++++++++++++++");kafkaTemplate.sendDefault("HongHu KAFKA分布式消息服务测试");  return null;}@Autowired      private KafkaTemplate<Integer, String> kafkaTemplate;  }

 

Java代码  

1. @RestController  
2. public class KafKaConsumer implements MessageListener<Integer, String> {  
3.   
4.     @Autowired  
5.     private LogService logService;  
6.     public void onMessage(ConsumerRecord<Integer, String> records) {  
7.         System.out.println("====================" + records);  
8.         Object o = records.value();  
9.         Log log = new Log();  
10.         log.setIsNewRecord(true);  
11.         log.setId(IdGen.uuid());  
12.         log.setTitle(String.valueOf(o));  
13.         logService.save(log);  
14.   
15.     }  
16.   
17. }  

@RestControllerpublic class KafKaConsumer implements MessageListener<Integer, String> {@Autowiredprivate LogService logService;public void onMessage(ConsumerRecord<Integer, String> records) {System.out.println("====================" + records);Object o = records.value();Log log = new Log();log.setIsNewRecord(true);log.setId(IdGen.uuid());log.setTitle(String.valueOf(o));logService.save(log);}}

 

愿意了解框架技术或者源码的朋友直接求求交流分享技术：3133806896


分布式的一些解决方案，有愿意了解的朋友可以找我们团队探讨


更多详细源码参考来源