Storm的Stream分组方式
来源:互联网 发布:丰胸 知乎 编辑:程序博客网 时间:2024/06/04 01:18
Storm有7种内置的分组方式,也可以通过实现CustomStreamGrouping接口来定义自己的分组。
(1)Shuffle分组:Task中的数据随机分配,可以保证同一级Bolt上的每个Task处理的Tuple数量一致。
(2)Fields分组: 根据Tuple中的某一个Filed或者多个Filed的值来划分。比如Stream根据user-id的值来分组,具有相同的user-id值的Tuple会被分发到相同的Task中。
(3)All分组: 所有的Tuple都会分发到所有的Task上。
(4)Global分组: 整个Stream会选择一个Task作为分发的目的地,通常是具有最新ID的Task。
(5)None分组: 也就是你不关心如何在Task中做Stream的分发,目前等同于Shuffle分组。
(6)Direct分组: 这是一种特殊的分组方式,也就是产生数据的Spout/Bolt自己明确决定这个Tuple被Bolt的哪些Task所消费。如果Direct分组,需要使用OutputCollector的emitDirect方法来实现。
(7)Local or shuffle分组:如果目标Bolt中的一个或者多个Task和当前产生数据的Task在同一个Worker进程中,那么就走内部的线程间通信,将Tuple直接发给在当前Worker进程中的目的Task。否则,同Shuffle分组。
0 0
- Storm的Stream分组方式
- Storm中Stream分组
- STORM入门之(Stream Groupings分组方式)
- storm 流分组策略(Stream grouping)
- storm 流分组策略(Stream grouping)
- Storm中Stream的Tuple的几种分发方式
- 8.storm中不同的流分组方式
- storm的分组策略
- Storm 编程模型 核心组件 Stream Grouping 数据分组策略
- Java8 Stream的分组,分区
- Storm处理Stream Join的简单实例
- 用实例理解Storm的Stream概念
- storm的tail特性和stream grouping
- 用实例理解Storm的Stream概念
- Storm处理Stream Join的简单实例
- Storm分组
- twitter storm(Stream grouping)
- storm Stream Groupings介绍
- 关于通过字段内容灵活关联java中方法
- Eclipse 使用小技巧
- 第13周项目1-Prim算法的验证
- 初识Android系统平台
- 使用autotools工具用configure、make、make install编译安装linux工程的详细步骤
- Storm的Stream分组方式
- Idea Jsp <%%>中 request resopnse等无自动提示
- iOS开发之Block的循环引用
- [转载]Java面试题全集(下)
- javascript的运行机制
- HTMl中Meta标签详解以及meta property=og标签含义
- Error:Error converting bytecode to dex: Cause: com.android.dex.DexException: Multiple dex files de
- iOS 初级UI
- hive--mysql添加删除索引