Mac上的第一个hadoop小demo
来源:互联网 发布:人工智能的研究内容 编辑:程序博客网 时间:2024/06/05 01:05
环境: mac eclipse hadoop2.6.0
1. 安装eclipse
2. 下载插件 hadoop-2.4.1-plugin.jar 放在eclipse/plugins目录下
3. 重启eclipse,配置Hadoop installation directory 偏好设置
4.配置 Map/Reduce Locations
Windows—show view—Other——OK
输入Location Name,任意名称即可.配置Map/Reduce Master和DFS Mastrer,Host和Port配置成与core-site.xml的设置一致即可。
一般是 localhost 9001 && 9000
点击”Finish”按钮,关闭窗口。
点击左侧的DFSLocations—>myhadoop(上一步配置的location name),如能看到user,表示安装成功
代码:新建WordCount项目
File—>Project,选择Map/Reduce Project,输入项目名称WordCount等。
在WordCount项目里新建class,名称为WordCount,代码参考:
http://www.cnblogs.com/kinglau/p/3802705.html
最后,运行。
1、在HDFS上创建目录input
hdfs fs -mkdir /input
2、拷贝本地README.txt到HDFS的input里
hdfs fs -copyFromLocal /usr/local/hadoop/README.txt /input
3.点击WordCount.java,右键,点击Run As—>Run Configurations,配置运行参数,即输入和输出文件夹
hdfs://localhost:9000/input hdfs://localhost:9000/output
查看结果方式:
1. hdfs fs -ls /output
2. 展开DFS Locations,如下图所示,双击打开part-r00000查看结果
3. web查看
ps :
1. hdfs命令参考: http://blog.csdn.net/wuwenxiang91322/article/details/22166423
hdfs的目录不能再磁盘上查看,是逻辑目录,只能在web页面或者命令查看
如果出现了 org.apach.* 不能查看,可能是hadoop没有正确的引入;
- 如果出现 Input path does not exist: hdfs://localhost:9000/user/hadoop/input 查看hdfs上是否存在此目录
- Mac上的第一个hadoop小demo
- Mac上第一个eclipse编译的Hadoop程序
- Mac上运行第一个Hadoop实例
- 我的第一个Retrofit小demo
- NDK_JNI 第一个完整的 小DEMO
- 我的第一个小demo
- 第一个ajax小demo
- 第一个spring小demo
- MVP第一个小demo
- 第一个自己做的ios小demo-星座
- 我的第一个android kotlin小demo 文件选择器
- mac 上第一个openGL
- Hadoop第一个demo运行错误
- 对hadoop第一个小程序WordCount的简单解释.
- vue-router第一个小demo
- vuejs学习系列-第一个小demo
- hadoop在Eclipse上运行的第一个工程
- 第一个jqGrid的demo
- 全网为消费者省钱超20亿 京东“秒杀日”重划双11时间点
- struts.multipart.maxSize
- JavaScript学习笔记(备忘)
- SwitchLayout的使用
- 简单登录跳转
- Mac上的第一个hadoop小demo
- jquery validate 失去焦点时移除错误提示
- 《五代史通俗演义》推荐——不良人粉丝的一点敬意.
- 数据结构学习笔记
- crontab
- jdbc访问数据库的步骤
- 如何一次改变word中的数字和字母的字体属性
- leetcode_299. Bulls and Cows 猜数字,返回猜对数字和猜对数字和位置的数字个数
- Laravel 的中大型專案架構