windows下安装并启动hadoop2.7.2
来源:互联网 发布:java教学视频 编辑:程序博客网 时间:2024/06/06 17:10
64位windows安装hadoop没必要倒腾Cygwin,直接解压官网下载hadoop安装包到本地->最小化配置4个基本文件->执行1条启动命令->完事。一个前提是你的电脑上已经安装了jdk,设置了java环境变量。下面把这几步细化贴出来,以hadoop2.7.2为例
1、下载hadoop安装包就不细说了:http://hadoop.apache.org/->左边点Releases->点mirror site->点http://mirrors.tuna.tsinghua.edu.cn/apache/hadoop/common->下载hadoop-2.7.2.tar.gz;
2、解压也不细说了:复制到D盘根目录直接解压,出来一个目录D:\hadoop-2.7.2,配置到环境变量HADOOP_HOME中,在PATH里加上%HADOOP_HOME%\bin;点击http://download.csdn.net/detail/wuxun1997/9841472下载相关工具类,直接解压后把文件丢到D:\hadoop-2.7.2\bin目录中去,将其中的hadoop.dll在c:/windows/System32下也丢一份;
3、去D:\hadoop-2.7.2\etc\hadoop找到下面4个文件并按如下最小配置粘贴上去:
core-site.xml
<configuration> <property> <name>fs.defaultFS</name> <value>hdfs://localhost:9000</value> </property> </configuration>
hdfs-site.xml
<configuration> <property> <name>dfs.replication</name> <value>1</value> </property> <property> <name>dfs.namenode.name.dir</name> <value>file:/hadoop/data/dfs/namenode</value> </property> <property> <name>dfs.datanode.data.dir</name> <value>file:/hadoop/data/dfs/datanode</value> </property></configuration>
mapred-site.xml
<configuration> <property> <name>mapreduce.framework.name</name> <value>yarn</value> </property></configuration>
yarn-site.xml
<configuration> <property> <name>yarn.nodemanager.aux-services</name> <value>mapreduce_shuffle</value> </property> <property> <name>yarn.nodemanager.aux-services.mapreduce.shuffle.class</name> <value>org.apache.hadoop.mapred.ShuffleHandler</value> </property></configuration>
D:\hadoop-2.7.2\bin>hadoop namenode -format
.
.
.
D:\hadoop-2.7.2\bin>cd ..\sbinD:\hadoop-2.7.2\sbin>start-all.cmdThis script is Deprecated. Instead use start-dfs.cmd and start-yarn.cmdstarting yarn daemonsD:\hadoop-2.7.2\sbin>jps4944 DataNode5860 NodeManager3532 Jps7852 NameNode7932 ResourceManagerD:\hadoop-2.7.2\sbin>
通过jps命令可以看到4个进程都拉起来了,到这里hadoop的安装启动已经完事了。接着我们可以用浏览器到localhost:8088看mapreduce任务,到localhost:50070->Utilites->Browse the file system看hdfs文件。如果重启hadoop无需再格式化namenode,只要stop-all.cmd再start-all.cmd就可以了。
上面拉起4个进程时会弹出4个窗口,我们可以看看这4个进程启动时都干了啥
1.创建输入目录
- 1
- 2
- 3
- 1
- 2
- 3
2.上传数据到目录
- 1
- 2
- 3
- 1
- 2
- 3
3.查看文件
D:\hadoop\hadoop\bin>hadoop fs -ls hdfs://localhost:9000/user/wcinput- windows下安装并启动hadoop2.7.2
- windows下安装并启动Hadoop2.7.2
- windows下安装并启动hadoop2.7.2
- windows下安装并启动hadoop2.6.1
- windows下安装并启动redis服务
- windows下安装storm1.1.0并启动
- hadoop学习第三节:CentOS7下hadoop2.2.0 安装并启动,含错误整理
- windows2008 下安装 oracle10g 并设置随Windows自动启动
- Windows下安装-MongoDB-并设置MongoDB随机启动服务~
- linux安装hadoop2.7.2nodemanager启动停止
- hadoop学习之HIVE(3):hadoop2.7.2下安装hive2.1.0并关联mysql数据库
- HaDoop2.6下安装并配置Spark1.6.3
- Mac下安装hadoop2.x后,ResourceManager无法启动问题解决
- 在Windows Vista系统下安装Windows Xp并设置双重启动
- Hadoop II Windows下安装hadoop2.6.0-eclipse-plugin插件
- windows下 hadoop2.4.0 eclipse 插件安装及配置
- windows下安装启动MongoDB
- linux下命令行安装hadoop2.7.2过程
- Java中日期的获得与使用
- Windows环境下ElasticSearch5以上版本安装head插件
- fiddler https 抓包
- aspose.excel格式
- Spring回顾之五 —— 测试,JUnit与SpringTest的完美结合
- windows下安装并启动hadoop2.7.2
- 高校ACM题库
- 操作系统之进程管理
- IE和谷歌浏览器下文件上传文本框隐藏的问题解决方案
- jQuery 遍历 “后代”的几种表示方法
- Python 数组的切片操作
- shell 之 iconv
- pygame最基本框架及几点重要错误和问题
- CVPR 2017论文笔记— Dilated Residual Networks