Hadoop Streaming 获取mapreduce_map_input_file遇到的版本问题
来源:互联网 发布:一只绣花鞋 知乎 编辑:程序博客网 时间:2024/06/06 16:53
1.Hadoop Streaming,可以在任务中获取hadoop设置的环境变量,
例如用awk写的map可以这样获取:filename = ENVIRON["mapreduce_map_input_file"]
2.可是在不同的Hadoop集群提交作业的时候却遇到了版本的问题,
在0.21.0中,使用mapreduce_map_input_file可以取到作业输入文件名
在1.0.3中,必须使用map_input_file才可以取到作业输入文件名
3.查询网络资源,说是hadoop新旧api的问题,
即新api使用mapreduce_map_input_file这个环境变量能够获取
旧的api必须使用map_input_file才能获取
4.hadoop分支:
hadoop 0.21.0与1.0.3不属于一个分支,1.0.3是从0.20.1分支中发展而来的,
需要进一步验证,可以阅读下: hadoop-0.21.0-streaming.jar 与 hadoop-streaming-1.0.3.jar能够看出其中的端倪
1 0
- Hadoop Streaming 获取mapreduce_map_input_file遇到的版本问题
- hadoop streaming 遇到的问题小结
- hadoop streaming python 处理 lzo 文件遇到的问题
- hadoop streaming python 处理 lzo 文件遇到的问题
- hadoop streaming 版本兼容问题
- 初次使用 Hadoop Streaming 的过程(遇到各种各样的问题)
- hadoop遇到的问题
- hadoop的版本问题
- python hadoop 在streaming中获取文件名的方法
- Hadoop的Streaming学习
- Hadoop Streaming的使用
- 运行Hadoop遇到的问题
- hadoop遇到的问题记录
- hadoop遇到的一些问题
- 初步 HADOOP 遇到的问题
- hadoop 程序遇到的问题
- hadoop 遇到的问题记录
- 初学hadoop遇到的问题
- easyui treegrid根据条件定义行样式
- scala implicit class
- maven手动添加jar包到本地仓库
- C++ 虚构造函数和虚析构函数
- Git branch的分析
- Hadoop Streaming 获取mapreduce_map_input_file遇到的版本问题
- Javascript继承汇总
- python-猜数字游戏
- Android从assets里读取文件
- git入门
- 缓慢变化思想3
- thymeleaf 学习笔记
- NSNotification、delegate和KVO的区别
- C++ 继承中类作用域