使用Hadoop Streaming

来源:互联网 发布:考试题库数据库设计 编辑:程序博客网 时间:2024/04/28 07:35

hadoop大家都了解的,不再细说。之前用java写过MR程序,对Hadoop streaming了解不多,Hadoop streaming是和Hadoop一起发布的实用程序,它允许用户创建和执行使用任何程序或者脚本编写的map或者reduce的mapreduce jobs,实际工作中看到不少同学用python、shell、Perl等编写Hadoop streaming程序(开发效率确实高)。在运行 Hadoop streaming时需要设置一些参数,这些参数的设置对程序运行起着重要的作用。互联网时代,上网搜下确实有很多有关Hadoop streaming使用的案例、讲解,因此不在这多此一举,索性把感觉有用的资料列举一下:
1,首先当然是Hadoop官网上的文档了:
https://hadoop.apache.org/docs/r1.2.1/streaming.html (英文)
http://hadoop.apache.org/docs/r1.0.4/cn/streaming.html (中文)
2,其它资料
http://dongxicheng.org/mapreduce/hadoop-streaming-programming/
http://blog.sina.com.cn/s/blog_61c463090100pj2y.html
http://www.cnblogs.com/joyeecheung/p/3841952.html

1 0
原创粉丝点击