Hadoop YARN配置参数剖析(2)—权限与日志聚集相关参数
来源:互联网 发布:国家电网数据分析师 编辑:程序博客网 时间:2024/06/13 10:27
Hadoop YARN配置参数剖析(2)—权限与日志聚集相关参数
转自 董的博客 .。
1. 权限相关配置参数
这里的权限由三部分组成,分别是:
- (1)管理员和普通用户如何区分
- (2)服务级别的权限,比如哪些用户可以向集群提交ResourceManager提交应用程序,
- (3)队列级别的权限,比如哪些用户可以向队列A提交作业等。
管理员列表由参数yarn.admin.acl指定。
服务级别的权限是通过配置hadoop-policy.xml实现的,这个与Hadoop 1.0类似。
队列级别的权限是由对应的资源调度器内部配置的,比如Fair Scheduler或者Capacity Scheduler等,具体阅读后面几节。
2. 日志聚集相关配置参数
日志聚集是YARN提供的日志中央化管理功能,它能将运行完成的Container/任务日志上传到HDFS上,从而减轻NodeManager负载,且提供一个中央化存储和分析机制。默认情况下,Container/任务日志存在在各个NodeManager上,如果启用日志聚集功能需要额外的配置。
(1) yarn.log-aggregation-enable
参数解释:是否启用日志聚集功能。
默认值:false
(2) yarn.log-aggregation.retain-seconds
参数解释:在HDFS上聚集的日志最多保存多长时间。
默认值:-1
(3) yarn.log-aggregation.retain-check-interval-seconds
- 参数解释:多长时间检查一次日志,并将满足条件的删除,如果是0或者负数,则为上一个值的1/10。
- 默认值:-1
(4) yarn.nodemanager.remote-app-log-dir
参数解释:当应用程序运行结束后,日志被转移到的HDFS目录(启用日志聚集功能时有效)。
默认值:/tmp/logs
(5) yarn.log-aggregation.retain-seconds
参数解释:远程日志目录子目录名称(启用日志聚集功能时有效)。
默认值:日志将被转移到目录
yarn.nodemanager.remote−app−log−dir/ {user}/${thisParam}下
- Hadoop YARN配置参数剖析(2)—权限与日志聚集相关参数
- Hadoop YARN配置参数剖析(2)—权限与日志聚集相关参数
- Hadoop YARN配置参数剖析(2)—权限与日志聚集相关参数
- Hadoop YARN配置参数剖析(2)—权限与日志聚集相关参数
- Hadoop YARN配置参数剖析(2)—权限与日志聚集相关参数
- Hadoop YARN配置参数剖析(3)—MapReduce相关参数
- Hadoop YARN配置参数剖析(3)—MapReduce相关参数
- Hadoop YARN配置参数剖析—Capacity Scheduler相关参数
- Hadoop YARN配置参数剖析(3)—MapReduce相关参数
- Hadoop YARN配置参数剖析(3)—MapReduce相关参数
- Hadoop YARN配置参数剖析(3)—MapReduce相关参数
- hadoop YARN配置参数剖析—MapReduce相关参数
- Hadoop YARN配置参数剖析(3)—MapReduce相关参数
- (转)Hadoop YARN配置参数剖析(1)—RM与NM相关参数
- Hadoop YARN配置参数剖析(1)—RM与NM相关参数
- Hadoop YARN配置参数剖析(1)—RM与NM相关参数
- Hadoop YARN配置参数剖析(1)—RM与NM相关参数
- Hadoop YARN配置参数剖析(1)—RM与NM相关参数
- 论文中word2010下目录的生成及多级列表的设置
- 完数
- (c++)编写一个程序,输入a、b、c三个值,输出其中最大值。
- 单例设计模式
- 【嵌入式学习笔记二】烧录制作好的镜像到4412开发板中
- Hadoop YARN配置参数剖析(2)—权限与日志聚集相关参数
- Guice简明教程
- 记录一次升级系统内核导致openvpn无法启动
- 每天一点点
- Android 通知栏Notification的整合全面学习
- linux版本、查找、重启等命令
- Linux自定义Yum源全解析
- Eclipse同时显示两个编辑窗口
- UIApplicationDelegate里面最常用的几个函数执行顺序小结