Flume组件汇总 source、sink、channel
来源:互联网 发布:一键关机软件 编辑:程序博客网 时间:2024/06/05 00:44
一、Flume Source
Source类型说明Avro Source支持Avro协议(实际上是Avro RPC),内置支持Thrift Source支持Thrift协议,内置支持Exec Source基于Unix的command在标准输出上生产数据JMS Source从JMS系统(消息、主题)中读取数据,ActiveMQ已经测试过Spooling Directory Source监控指定目录内数据变更Twitter 1% firehose Source通过API持续下载Twitter数据,试验性质Netcat Source监控某个端口,将流经端口的每一个文本行数据作为Event输入Sequence Generator Source序列生成器数据源,生产序列数据Syslog Sources
syslogtcp
multiport_syslogtcp
syslogudp
读取syslog数据,产生Event,支持UDP和TCP两种协议HTTP Source基于HTTP POST或GET方式的数据源,支持JSON、BLOB表示形式Legacy Sources兼容老的Flume OG中Source(0.9.x版本)Avro Legacy Source Thrift Legacy Source Scribe Source Custom Source自定义Source二、Flume Sink
Sink类型说明HDFS Sink数据写入HDFSLogger Sink数据写入日志文件Avro Sink数据被转换成Avro Event,然后发送到配置的RPC端口上Thrift Sink数据被转换成Thrift Event,然后发送到配置的RPC端口上IRC Sink数据在IRC上进行回放File Roll Sink存储数据到本地文件系统Null Sink丢弃到所有数据HBase Sink数据写入HBase数据库Morphline Solr Sink数据发送到Solr搜索服务器(集群)ElasticSearch Sink数据发送到Elastic Search搜索服务器(集群)Kite Dataset Sink写数据到Kite Dataset,试验性质的Custom Sink自定义Sink实现三、Flume Channel
Channel类型说明Memory ChannelEvent数据存储在内存中JDBC ChannelEvent数据存储在持久化存储中,当前Flume Channel内置支持DerbyFile ChannelEvent数据存储在磁盘文件中Spillable Memory ChannelEvent数据存储在内存中和磁盘上,当内存队列满了,会持久化到磁盘文件(当前试验性的,不建议生产环境使用)Pseudo Transaction Channel测试用途Custom Channel自定义Channel实现Channel Selector
Sink Processor
Event Serializer
Event Deserializers
在source组件上指定,反序列化,将输入(文件、流)解析成event的方式,
Deserializer类型说明LINE默认值,将文本输入的每行转换成一个eventAVRO读取avro文件,将其中的每条avro记录转换成一个event,每个event都附带着模式信息BlobDeserializer将整个二进制大数据转换成一个evnt,通常一个BLOB就是一个文件,比如PDF、JPG阅读全文
0 0
- flume组件汇总 (source, channel, sink)
- Flume组件汇总 source、sink、channel
- 从无到有系列之flume的source-channel-sink汇总03
- flume之source,channel,sink
- Flume内置channel,source,sink三组件介绍
- Flume内置channel,source,sink三组件介绍
- Flume内置channel,source,sink三组件介绍
- 4.Flume三大组件Source、channel、Sink常用
- 【Flume】【源码分析】深入flume-ng的三大组件——source,channel,sink
- 【Flume】【源码分析】深入flume-ng的三大组件——source,channel,sink
- 【Flume】【源码分析】深入flume-ng的三大组件——source,channel,sink
- flume的source, channel, sink 列表
- Flume笔记二之source,channel,sink
- flume的source, channel, sink 列表
- flume中几种常见的source、channel、sink
- flume 自定义source,sink,channel,拦截器
- Flume学习笔记 --- Flume内置source,channel, sink介绍
- flume 的source 、channel和sink 多种组合
- java里的对象和类
- 动态星空web
- static函数(&)
- struts2的核心和工作原理
- sun.misc.BASE64Encoder找不到jar包的解决方法
- Flume组件汇总 source、sink、channel
- Ajax spring mvc 调用
- Java IO流学习总结
- 二维高斯模糊和可分离核形式的快速实现
- 第三课
- C#中的变量类型var
- 【20171013】opencv安装和一个简单实例
- 第一次接触Python
- Android零基础入门第75节:Activity状态和生命周期方法