flume框架 source简介

来源:互联网 发布:九阴绝学玄兵进阶数据 编辑:程序博客网 时间:2024/06/14 15:24

① NetCat Source:

监听一个指定的网络端口,即只要应用程序向这个端口里面写数据,这个source组件就可以获取到信息。 


②Spooling Directory Source:

监听一个指定的目录,即只要应用程序向这个指定的目录中添加新的文 

件,source组件就可以获取到该信息,并解析该文件的内容,然后写入到channle。写入完成后,标记该文件已完成或者删除该文件。

 

③Exec Source:

监听一个指定的命令,获取一条命令的结果作为它的数据源 常用的是tail -F file指令,即只要应用程序向日志(文件)里面写数据,source组件就可以获取到日志(文件)中最新的内容 。 


④Avro Source:

监听一个指定的Avro 端口,通过Avro 端口可以获取到Avro client发送过来的文件 。即只要应用程序通过Avro 端口发送文件,source组件就可以获取到该文件中的内容。





Kafka Source:
卡夫卡的Source:是一个Apache卡夫卡的消费者,它从卡夫卡的主题中读取信息。如果您有多个卡夫卡源,您可以使用相同的消费组来配置它们,这样每个人都将为主题阅读一组惟一的分区。