flume1.6 avro测试
来源:互联网 发布:org.apache.http包 编辑:程序博客网 时间:2024/05/29 19:34
首先安装flume这个就不用多说了。
其次编写avro的配置文件,这个可以从flume给的example.conf
中去修改就行。
如下
# Name the components on this agenta1.sources = r1a1.sinks = k1a1.channels = c1# Describe/configure the sourcea1.sources.r1.type = avroa1.sources.r1.bind = localhosta1.sources.r1.port = 4141# Describe the sinka1.sinks.k1.type = logger# Use a channel which buffers events in memorya1.channels.c1.type = memorya1.channels.c1.capacity = 1000a1.channels.c1.transactionCapacity = 100# Bind the source and sink to the channela1.sources.r1.channels = c1a1.sinks.k1.channel = c1
这里的a1.sinks.k1.channel = c1
注意是channel
不是channels
,一开始因为写错了这里,我迷茫了好久,输出的信息无法显示。不过仔细想一下channel是很正确的。
然后在测试
[user@master ~]# flume-ng avro-client -c <配置文件所在目录> -H <目标host> -p 4141 -F <随意一个文件>
显示如下:
2016-09-10 10:32:15,264 (SinkRunner-PollingRunner-DefaultSinkProcessor) [INFO - org.apache.flume.sink.LoggerSink.process(LoggerSink.java:94)] Event: { headers:{} body: <此处为文件的内容> }
0 0
- flume1.6 avro测试
- flume1.6.0安装及测试
- Avro RPC 对比测试
- avro
- avro
- AVRO
- Avro
- avro
- 对flume1.6改造,添加Taildir功能
- RedHat6.5安装单机flume1.6
- avro安装及编译测试文件
- 【Flume】flume中Avro Sink到Avro Source的性能测试,是否压缩,是否加密
- CentOS7安装Flume-ng(Hadoop2.6,Flume1.6)
- 搜索引擎选型调研之Flume1.6+Elasticsearch2.3.1
- Elasticsearch5.4集群(三)Flume1.6sink兼容
- flume1.6自定义elasticsearch2.3的sink插件
- protobuf,thrift,avro之序列化性能测试
- protobuf,thrift,avro之序列化性能测试
- 网教9. 一夜发白《千字文》
- px,dp,sp转换工具类
- KaraTsuba乘法——高效的大数乘法
- 输入一个年份判断是否是闰年
- 非对称加密、https加密和android apk证书签名
- flume1.6 avro测试
- Failed to read artifact descriptor--maven问题总结(能力工场)
- dump使用说明
- 210_Dialog和AlertDialog各种情况调试
- hbase自带的测试工具PerformanceEvaluation
- 自己的web服务器项目-实现多线程处理(三)
- 文本编辑器相关
- SMW0 HTML模版的形式上传文件 维护MIME类型
- 使用UIImagePickerController拍照和视频录制