如何使用yarn界面查看spark job运行的情况
来源:互联网 发布:app分发平台cms 编辑:程序博客网 时间:2024/06/04 23:31
如下图所示,是一个spark任务的第一个Job,job0的运行情况。
job1的运行情况如下:
可以看到job0,job1的input不一样,shuffle read,shuffle write的大小也不一样,但是每个job的shuffle read是和shuffle write的大小是一样。
现在我们探讨一下job中的Input、 Output 、 shuffle read、shuffle write是代表哪些量的。
另外我发现job1的Input大小是和内存中缓存的数据量大小是一样的
有意思。。。
0 0
- 如何使用yarn界面查看spark job运行的情况
- 如何查看Spark的历史运行情况
- 如何通过web查看job的运行情况
- 运行在yarn上的spark job使用log4j无法记录日志问题
- spark的yarn模式运行
- kill掉yarn正在运行的job
- MaxCompute Studio使用心得系列4——可视化查看所有job并分析运行情况
- HDFS设计思路,HDFS使用,查看集群状态,HDFS,HDFS上传文件,HDFS下载文件,yarn web管理界面信息查看,运行一个mapreduce程序,mapreduce的demo
- spark on yarn 的运行模式
- Spark on Yarn的运行原理
- Spark On Yarn中spark.yarn.jar属性的使用
- 如何查看应用运行时虚拟机内存使用情况
- oracle job 情况的查看处理
- yarn模式运行spark
- 如何查看数据库的空间使用情况
- 如何查看datafile的使用情况
- 如何查看特定端口的使用情况
- 后台看job 的运行 情况
- 字符编码 Unicode UTF-8,GB2312,shift-jis编码判断。
- PLSQL Developer 通过oracle客户端 连接oracle
- 【leetcode】155. Min Stack
- Cartesian k-means论文理解
- 配置 Apache 服务器支持 PHP 文件的解析
- 如何使用yarn界面查看spark job运行的情况
- ERROR 1045 (28000): Access denied for user 'hive'@'localhost' (using password: YES)
- LeetCode之20---Valid Parentheses
- java web项目搭建(spring4+springMVC+hibernate)
- 实现一个具有GetMin功能的栈
- [技术讨论]关于前几天发布的京东bug上的问题分析
- http://blog.sina.com.cn/s/blog_4452275001012vzl.html
- iOS学习笔记31-从图册获取图片和视频
- Linux 25周年:与创始人Linus Torvalds对话