hadoop2.0 遇到的问题 (持续更新)
来源:互联网 发布:什么时候开始有的网络 编辑:程序博客网 时间:2024/05/29 17:30
最近在弄hadoop2.0,把遇到的一些问题做个笔记:
版本:apache hadoop-2.2.0
2013-10-29
在启动nodemanager的时候报下面的错误:
2013-10-29 11:32:21,523 FATAL org.apache.hadoop.yarn.server.nodemanager.NodeManager: Error starting NodeManagerjava.lang.IllegalArgumentException: The ServiceName: mapreduce.shuffle set in yarn.nodemanager.aux-services is invalid.The valid service name should only contain a-zA-Z0-9_ and can not start with numbers
或者提交作业出现类似下面的错误:
3/10/29 11:49:01 INFO mapreduce.Job: Task Id : attempt_1383017347984_0001_m_000000_0, Status : FAILEDContainer launch failed for container_1383017347984_0001_01_000002 : org.apache.hadoop.yarn.exceptions.InvalidAuxServiceException: The auxService:mapreduce_shuffle does not exist
解决办法:
在yarn-site.xml 配置文件中增加:
<property> <name>yarn.nodemanager.aux-services</name> <value>mapreduce_shuffle</value> </property>
重启就ok了
这个问题其实是由于
yarn.nodemanager.aux-services配置错误或者没有配置,其实,如果没有配置这个参数应该会有默认值。这是目前版本的一个小bug:
https://issues.apache.org/jira/i#browse/YARN-1289
2013-10-30:
配置 fairscheduler 的acl , 发现不好使,无论是更新队列或者重启resourcemanager,acl还是不起作用
其实是个bug:https://issues.apache.org/jira/i#browse/YARN-1288
该问题已经解决:http://blog.csdn.net/baiyangfu_love/article/details/14004331
2013-11-01:
web ui 页面,想通过application id 查看作业详情,报下面的信息:
You (User dr.who) are not authorized to view application application_xxxx
这个问题是由于权限受限制,我们需要设置我们登录web页面的用户,在core-site.xml 文件添加如下设置:
<property> <name>hadoop.http.staticuser.user</name> <value>hadoop</value> </property>这样就会正常的打开application详情页面
- hadoop2.0 遇到的问题 (持续更新)
- hadoop2.0 相关问题(持续更新)
- Jenkins遇到的问题(持续更新)
- Android开发遇到的问题笔记(持续更新)
- 安卓开发遇到的一些问题(持续更新)
- Mozilla扩展开发过程遇到的问题(持续更新)
- 使用KVM虚拟机遇到的问题(持续更新)
- Hadoop运维中遇到的问题(持续更新中......)
- 使用CentOS 遇到的问题以及解决方法(持续更新)
- 学习spring mvc 时遇到的问题(持续更新)
- 使用GIT期间遇到的问题(持续更新)
- fedora23 中遇到的一些问题 (持续更新)
- flaskweb遇到的问题总结(持续更新)
- Android遇到的问题及解决(持续更新中)
- caffe实际运行中遇到的问题(持续更新)
- caffe训练中遇到的一些问题(持续更新......)
- VC++6遇到的问题(持续更新)
- caffe编译遇到的问题(持续更新)
- 2013-10-29 实验之数组中元素全排列(递归思想题)
- MonetDB资料2
- w3school JS测验
- 查看oracle连接数
- 非常适合新手的长尾关键词挖掘方法
- hadoop2.0 遇到的问题 (持续更新)
- VCDebug、Ollydbg、WinDbg字符串条件断点设置方法总结
- 百度云推送客户端配置IOs
- ubuntu 下查看已安装程序
- Android环境搭建问题:Connection to http://dl-ssl.google.com refused
- jquery学习一
- 颜色值
- 新建的Android项目没有生成R.java文件
- Selenium-AndroidDriver(python) (一) --- 环境配置及脚本运行