MapReduce两种执行环境的搭建和测试
来源:互联网 发布:java weka 编辑:程序博客网 时间:2024/06/07 22:49
MR执行环境有两种:本地测试环境,服务器环境
本地测试环境(windows): 在windows的hadoop目录bin目录有一个winutils.exe 1、在windows下配置hadoop的环境变量 2、拷贝debug工具(winutils.ext)到HADOOP_HOME/bin 3、修改hadoop的源码 ,注意:确保项目的lib需要真实安装的jdk的lib 4、MR调用的代码需要改变: a、src不能有服务器的hadoop配置文件 b、在调用是使用: Configuration config = new Configuration(); config.set("fs.defaultFS", "hdfs://node7:8020"); config.set("yarn.resourcemanager.hostname", "node7");服务器环境:首先需要在src下放置服务器上的hadoop配置文件1、在本地直接调用,执行过程在服务器上(真正企业运行环境) a、把MR程序打包(jar),直接放到本地 b、修改hadoop的源码 ,注意:确保项目的lib需要真实安装的jdk的lib c、增加一个属性: config.set("mapred.jar", "C:\\Users\\Administrator\\Desktop\\wc.jar"); d、本地执行main方法,servlet调用MR。2、直接在服务器上,使用命令的方式调用,执行过程也在服务器上 a、把MR程序打包(jar),传送到服务器上 b、通过: hadoop jar jar路径 类的全限定名
阅读全文
0 0
- MapReduce两种执行环境的搭建和测试
- MapReduce的两种执行环境:本地测试环境,服务器环境
- MapReduce两种执行环境介绍:本地测试环境,服务器环境
- MapReduce程序执行的环境
- hadoop-企业版环境搭建(三)-mapreduce和yarn的安装
- 测试环境的搭建和配置
- Q#开发环境的搭建和测试
- 简单的两种浏览器环境搭建
- 测试环境的搭建
- 快速搭建Hadoop环境并测试mapreduce(1.0.3)
- 基于 Eclipse 的 MapReduce 开发环境搭建
- eclipse 搭建 CDH 的 mapreduce环境
- Hadoop环境搭建,以及mapreduce的使用
- MapReduce两种主要的后台程序-jobtracker和tasktracker
- Spark的环境搭建以及简单的eclipse的两种运行方式--standalone和yarn
- MapReduce开发环境搭建
- DPDK环境搭建和测试
- Android兼容性测试GTS-环境搭建、测试执行、结果分析
- 理解存储
- JsonPath —— JSON 解析神器
- 常用的c语言操作符
- makefile的基本格式
- Elasticsearch5.4集群(一)安装部署
- MapReduce两种执行环境的搭建和测试
- angularjs购物车
- U盘系统安装
- sudo unable to resolve host错误
- redis-多数据库
- Slim Span POJ
- HttpServletRequest常用获取URL的方法
- js深拷贝和浅拷贝
- 修改DataGridView的ColumnHeaderStyle