一个Hadoop的小例子
来源:互联网 发布:java程序设计竞赛 编辑:程序博客网 时间:2024/05/12 23:31
1. 创建输入文件 echo "Hello World" > file1.txt echo "Hello Hadoop" > file2.txt
2. 在HDFS上创建输入文件夹
hadoop fs -mkdir input
3. 上传本地文件到集群的input目录下
hadoop fs -put ~/bingjie/file*.txt input
查看input下的文件: hadoop fs -ls input
4. 在集群上运行WordCount程序
hadoop jar ~/hadoop-2.2.0/share/hadoop/mapreduce/hadoop-mapreduce-example-2.2.0.jar wordcount input output
5.查看结果
(1) hadoop fs -ls output
(2) hadoop fs -cat output/part-r-00002
自己总结了一下mr的开发步骤:
1.创建一个maven项目
2. 添加hadoop依赖,修改pom.xml文件
3.导入项目到eclipse中
mvn eclipse:eclipse
4. 开发后打包生成jar包
mvn package
5. Put到hadoop上执行jar包
0 0
- 一个Hadoop的小例子
- 一个小的例子
- 一个验证的小例子
- spss的一个小例子
- 一个JNI的小例子
- 一个JDBC的小例子
- SwingWorker的一个小例子
- 一个dwr的小例子
- wstring的一个小例子
- python的一个小例子
- ScrollableResults的一个小例子
- RSS的一个小例子
- 一个jQ的小例子
- 多线程的一个小例子
- 一个ExpandableListActivity的小例子
- 一个OpenGL的小例子
- 一个SQLite3的小例子
- 一个IOCP的小例子
- groovy笔记
- 设计模式之单例模式
- js 中时间大小比较和合法性校验check(时分校验,年月日时分秒校验,年月日时分校验)
- Spark Streaming 订单关联案例剖析
- hdoj2047(阿牛的EOF牛肉串)(递推,找规律)(递归)
- 一个Hadoop的小例子
- jvm 堆栈方法区数据存放和操作流程
- java中的内部类程序实例
- spring加载配置文件的方式
- Android仿淘宝购物车
- Spring缓存中获取单例bean
- C语言条件编译及编译预处理阶段
- 快速排序简单解释(C++)
- Atitit.论垃圾文件的识别与清理 文档类型垃圾文件 与api概要设计pa6.doc