Flume-ng生产环境实践(二)flume-ng 测试过程中event丢失部分body数据
来源:互联网 发布:安装软件乱码 编辑:程序博客网 时间:2024/05/22 05:09
经过测试发现,当source端单event的body数据大于16字节后,输出到目标只剩下16字节。进过多源代码的分析,发现,源代码中进行了截取。
在LoggerSink.java中:
if (event != null) {
if (logger.isInfoEnabled()) {
logger.info("Event: " + EventHelper.dumpEvent(event));
}
}
我们去看EventHelper.java的dumpEvent方法:
private static final int DEFAULT_MAX_BYTES = 16;
public static String dumpEvent(Event event) {
return dumpEvent(event, DEFAULT_MAX_BYTES);
}
public static String dumpEvent(Event event, int maxBytes) {
StringBuilder buffer = new StringBuilder();
if (event == null || event.getBody() == null) {
buffer.append("null");
} else if (event.getBody().length == 0) {
// do nothing... in this case, HexDump.dump() will throw an exception
} else {
byte[] body = event.getBody();
byte[] data = Arrays.copyOf(body, Math.min(body.length, maxBytes));
ByteArrayOutputStream out = new ByteArrayOutputStream();
try {
HexDump.dump(data, 0, out, 0);
String hexDump = new String(out.toByteArray());
// remove offset since it's not relevant for such a small dataset
if(hexDump.startsWith(HEXDUMP_OFFSET)) {
hexDump = hexDump.substring(HEXDUMP_OFFSET.length());
}
buffer.append(hexDump);
} catch (Exception e) {
if(LOGGER.isInfoEnabled()) {
LOGGER.info("Exception while dumping event", e);
}
buffer.append("...Exception while dumping: ").append(e.getMessage());
}
String result = buffer.toString();
if(result.endsWith(EOL) && buffer.length() > EOL.length()) {
buffer.delete(buffer.length() - EOL.length(), buffer.length()).toString();
}
}
return "{ headers:" + event.getHeaders() + " body:" + buffer + " }";
}
不难看出,在event处理过程中,发生了数据截取操作。
- Flume-ng生产环境实践(二)flume-ng 测试过程中event丢失部分body数据
- Flume-ng生产环境实践(二)flume-ng 测试过程中event丢失部分body数据
- Flume-ng生产环境实践(一)Flume-ng生产环境编译
- Flume-ng生产环境实践(一)Flume-ng生产环境编译
- 【Java】【Flume】Flume-NG启动过程源码分析(二)
- 【Java】【Flume】Flume-NG启动过程源码分析(二)
- Flume-ng生产环境实践(三)实现文件sink,按照固定格式目录输出
- Flume-ng生产环境实践(四)实现log格式化interceptor
- Flume-ng生产环境实践(三)实现文件sink,按照固定格式目录输出
- Flume-ng生产环境实践(四)实现log格式化interceptor
- Flume-ng生产环境实践(三)实现文件sink,按照固定格式目录输出
- Flume-ng生产环境实践(四)实现log格式化interceptor
- Flume NG 编程实践
- Flume NG 部署实践
- FLume NG 开发环境
- flume-ng
- Flume NG
- flume ng
- 输出单个字符2
- CentOS 搭建pure-ftpd
- USB枚举过程
- 输出双精度数的不同值
- 输出整数
- Flume-ng生产环境实践(二)flume-ng 测试过程中event丢失部分body数据
- java jdbc 连接 数据库
- Excel.VBA 快速删除重复记录
- 在pdf中增加签名
- JAVA线程同步锁机制分析
- python mysqldb模块
- 经典的01背包问题
- CSDN社区运营午餐会第1期 – 人在驴途
- JavaSE基础复习五:集合和集合框架