yarn 日志聚集配置
来源:互联网 发布:淘宝休闲零食数据 编辑:程序博客网 时间:2024/06/10 15:46
. 日志聚集相关配置参数
日志聚集是YARN提供的日志中央化管理功能,它能将运行完成的Container/任务日志上传到HDFS上,从而减轻NodeManager负载,且提供一个中央化存储和分析机制。默认情况下,Container/任务日志存在在各个NodeManager上,如果启用日志聚集功能需要额外的配置。
(1) yarn.log-aggregation-enable
参数解释:是否启用日志聚集功能。
默认值:false
(2) yarn.log-aggregation.retain-seconds
参数解释:在HDFS上聚集的日志最多保存多长时间。
默认值:-1
(3) yarn.log-aggregation.retain-check-interval-seconds
参数解释:多长时间检查一次日志,并将满足条件的删除,如果是0或者负数,则为上一个值的1/10。
默认值:-1
(4) yarn.nodemanager.remote-app-log-dir
参数解释:当应用程序运行结束后,日志被转移到的HDFS目录(启用日志聚集功能时有效)。
默认值:/tmp/logs
(5) yarn.log-aggregation.retain-seconds
参数解释:远程日志目录子目录名称(启用日志聚集功能时有效)。
默认值:日志将被转移到目录
${yarn.nodemanager.remote-app-log-dir}/${user}/${thisParam}下
0 0
- yarn 日志聚集配置
- yarn 日志聚集配置
- yarn 日志聚集配置
- Hadoop YARN配置参数剖析(2)—权限与日志聚集相关参数
- Hadoop YARN配置参数剖析(2)—权限与日志聚集相关参数
- Hadoop YARN配置参数剖析(2)—权限与日志聚集相关参数
- Hadoop YARN配置参数剖析(2)—权限与日志聚集相关参数
- Hadoop YARN配置参数剖析(2)—权限与日志聚集相关参数
- hadoop初识之四:HDFS、Yarn及mapreduce 回顾,配置文件的补充及yarn日志聚集功能配置
- Hadoop2.x 一些知识,MapReduce历史服务配置启动查看,YARN的日志聚集功能配置使用
- 日志聚集相关配置参数
- 日志聚集相关配置参数
- yarn 配置log4j日志输出
- yarn日志配置(补充修改)
- Spark on YARN配置日志Web UI
- yarn-日志聚合功能
- jobserver和日志聚集aggregation
- 配置 JobhistoryServer 历史服务器,日志聚集功能,HDFS 文件系统用户权限检查,取消HDFS警告提示
- 解决操作系统无法打开.exe可执行文件的方法
- C堆内矩阵实现
- 设计模式之策略模式
- Maven内置隐式变量
- 【Loadrunner】解决如何实践中动态链运用接库DLL 的方法
- yarn 日志聚集配置
- shen/Frame : Unsupported major.minor version 51.0
- opecncv不同深度图像的转换(IPL_DEPTH_8U和IPL_DEPTH_32F)
- 【面试那些事】--基础部分--1
- test
- poj 2186 有向图的相连通分量
- java spring jdbc配置
- Java中Map相关的快速查找算法与唯一性
- 安卓ExpandableListView.getChildAt(arg0);