storm日志处理坑1
来源:互联网 发布:mac连打印机 编辑:程序博客网 时间:2024/06/06 03:39
1.时序性问题,本来时序性就是和分布式相悖的。
例:处理的日志前后有依赖的话,在分布式系统中,容易导致数据的不一致
分钟级别的日志文件,要输出小时级别的统计结果的话,
spout->calBolt->outputBolt
在calBolt处理时间不一样,导致到outputBolt的顺序和spout有不一样的,就会发生错序的问题
2.选用的netty同步通信机制,有可能java NIO 不同进程会发生通信死锁
会在fail之后,spout的pending的时候,calBolt没给spout响应,spout的fail方法导致堆积,不受maxPending控制,spout对外没响应,进入进程通信deadLock
0 0
- storm日志处理坑1
- 用Storm处理实时日志
- Flume-ng+Kafka+Storm处理日志
- kafka+zookeeper+storm+hdfs实现日志处理
- flume-kafka-storm日志处理经验
- flume+RabbitMQ+Storm实时日志运算处理
- Flume、Kafka与Storm实现日志处理
- kafka, storm,hdfs日志处理方法(附storm-kafka, storm-hdfs使用方法)
- storm日志
- storm的日志问题
- storm 日志管理
- 查看storm运行日志
- storm跑历史日志
- (1)Storm实时日志分析实战--项目准备
- 使用storm处理消息队列中的日志信息遇见的错误
- 【storm,1】storm 简介:
- storm源码分析-日志服务
- Storm实时日志分析实战
- MAC虚拟机无损扩容
- Android 开源框架Universal-Image-Loader完全解析(一)--- 基本介绍及使用
- linux基础知识
- 记录常遇到的异常 (NullPointerException,NumberFormatException,ClassCastException...)
- centos6.4搭建apache+mysql+php环境
- storm日志处理坑1
- 2014-12-12-系统退出强杀进程
- sql insert into
- Unity游戏开发——C#特性Attribute与自动化
- GCD索引(Grand Central Dispatch (GCD) Reference )
- Android 自定义RelativeLayout活动主窗口大小改变 得到软键盘的显示和隐藏
- 《老罗的Android之旅》阅读笔记——IPC机制Binder
- Oracle 删除重复数据只留一条
- C语言实现支持泛型的栈