【云星数据---Apache Flink实战系列(精品版)】:Apache Flink高级特性与高级应用009-Slot和Parallelism的深入分析004

来源:互联网 发布:光环大数据就业 编辑:程序博客网 时间:2024/06/08 13:15

五、slot和parallelism

1.slot是指taskmanager的并发执行能力

这里写图片描述

taskmanager.numberOfTaskSlots:3每一个taskmanager中的分配3个TaskSlot,3个taskmanager一共有9个TaskSlot

2.parallelism是指taskmanager实际使用的并发能力

这里写图片描述

parallelism.default:1 运行程序默认的并行度为19个TaskSlot只用了1个,有8个空闲。设置合适的并行度才能提高效率。

3.parallelism是可配置、可指定的

这里写图片描述
这里写图片描述

1.可以通过修改$FLINK_HOME/conf/flink-conf.yaml文件的方式更改并行度。2.可以通过设置$FLINK_HOME/bin/flink 的-p参数修改并行度3.可以通过设置executionEnvironmentk的方法修改并行度4.可以通过设置flink的编程API修改过并行度5.这些并行度设置优先级从低到高排序,排序为api>env>p>file.6.设置合适的并行度,能提高运算效率7.parallelism不能多与slot个数。

4.slot和parallelism总结

1.slot是静态的概念,是指taskmanager具有的并发执行能力2.parallelism是动态的概念,是指程序运行时实际使用的并发能力3.设置合适的parallelism能提高运算效率,太多了和太少了都不行4.设置parallelism有多中方式,优先级为api>env>p>file
阅读全文
1 0
原创粉丝点击