【云星数据---Apache Flink实战系列(精品版)】:Apache Flink高级特性与高级应用010-Slot和Parallelism的深入分析005
来源:互联网 发布:光环大数据就业 编辑:程序博客网 时间:2024/06/08 15:48
六、设置parallelism的方法
1.在操作符级别上设置parallelism
val env = StreamExecutionEnvironment.getExecutionEnvironmentval text = [...]val wordCounts = text .flatMap{ _.split(" ") map { (_, 1) } } .keyBy(0) .timeWindow(Time.seconds(5)) //设置parallelism为5 .sum(1).setParallelism(5)wordCounts.print()env.execute("Word Count Example")
2.在运行环境级别上设置parallelism
val env = StreamExecutionEnvironment.getExecutionEnvironment//设置parallelism为5env.setParallelism(3)val text = [...]val wordCounts = text .flatMap{ _.split(" ") map { (_, 1) } } .keyBy(0) .timeWindow(Time.seconds(5)) .sum(1)wordCounts.print()env.execute("Word Count Example")
3.在客户端级别上设置parallelism
3.1通过p参数设置parallelism
//设置parallelism为10./bin/flink run -p 10 ../examples/*WordCount-java*.jar
3.1通过ClientAPI设置parallelism
try { PackagedProgram program = new PackagedProgram(file, args) InetSocketAddress jobManagerAddress =RemoteExecutor.getInetFromHostport("localhost:6123") Configuration config = new Configuration() Client client=new Client(jobManagerAddress,new Configuration(),program.getUserCodeClassLoader()) //设置parallelism为10 client.run(program, 10, true)} catch { case e: Exception => e.printStackTrace}
4.在系统级别上设置parallelism
1.配置文件 $FLINK_HOME/conf/flink-conf.yaml2.配置属性 parallelism.default
5.实战总结
1.系统级别的设置是全局的,对所有的job有效。2.其他级别的设置是局部的,对当前的job有效。3.多个级别上混合设置,高优先级的设置会覆盖低优先级的设置。
阅读全文
0 0
- 【云星数据---Apache Flink实战系列(精品版)】:Apache Flink高级特性与高级应用010-Slot和Parallelism的深入分析005
- 【云星数据---Apache Flink实战系列(精品版)】:Apache Flink高级特性与高级应用006-Slot和Parallelism的深入分析001
- 【云星数据---Apache Flink实战系列(精品版)】:Apache Flink高级特性与高级应用007-Slot和Parallelism的深入分析002
- 【云星数据---Apache Flink实战系列(精品版)】:Apache Flink高级特性与高级应用008-Slot和Parallelism的深入分析003
- 【云星数据---Apache Flink实战系列(精品版)】:Apache Flink高级特性与高级应用009-Slot和Parallelism的深入分析004
- 【云星数据---Apache Flink实战系列(精品版)】:Apache Flink高级特性与高级应用011-Slot和Parallelism的深入分析006
- 【云星数据---Apache Flink实战系列(精品版)】:Apache Flink高级特性与高级应用012-Slot和Parallelism的深入分析007
- 【云星数据---Apache Flink实战系列(精品版)】:Apache Flink高级特性与高级应用013-Flink在批处理中常见的sink和source001
- 【云星数据---Apache Flink实战系列(精品版)】:Apache Flink高级特性与高级应用014-Flink在批处理中常见的sink和source002
- 【云星数据---Apache Flink实战系列(精品版)】:Apache Flink高级特性与高级应用005-Flink的作业调度情况002
- 【云星数据---Apache Flink实战系列(精品版)】:Apache Flink高级特性与高级应用015-Flink中广播变量和分布式缓存001
- 【云星数据---Apache Flink实战系列(精品版)】:Apache Flink高级特性与高级应用016-Flink中广播变量和分布式缓存002
- 【云星数据---Apache Flink实战系列(精品版)】:Apache Flink高级特性与高级应用017-Flink中参数传递和容错设定001
- 【云星数据---Apache Flink实战系列(精品版)】:Apache Flink高级特性与高级应用018-Flink中参数传递和容错设定002
- 【云星数据---Apache Flink实战系列(精品版)】:Apache Flink高级特性与高级应用019-Flink中参数传递和容错设定003
- 【云星数据---Apache Flink实战系列(精品版)】:Apache Flink高级特性与高级应用020-Flink中参数传递和容错设定004
- 【云星数据---Apache Flink实战系列(精品版)】:Apache Flink高级特性与高级应用001-Flink的内存管理001
- 【云星数据---Apache Flink实战系列(精品版)】:Apache Flink高级特性与高级应用002-Flink的内存管理002
- 函数的基本用法
- 狼人杀游戏的一些感想
- 机房收费系统之九大图
- webpack 模块化机制
- 列表基础
- 【云星数据---Apache Flink实战系列(精品版)】:Apache Flink高级特性与高级应用010-Slot和Parallelism的深入分析005
- Nginx_杂
- 会议上,如何分配任务
- java回调函数
- C++依赖倒置原则扩展
- Centos之其他帮助命令
- 如何学好C++
- 关联分析之Apriori算法
- Centos之关机和重启命令