Ubuntu安装hadoop2.7.1----伪分布搭建
来源:互联网 发布:什么赚钱软件最好 编辑:程序博客网 时间:2024/05/17 06:21
先上传hadoop的安装包到服务器上去/home/hadoop/
注意:hadoop2.x的配置文件$HADOOP_HOME/etc/hadoop
伪分布式需要修改5个配置文件
3.1配置hadoop
第一个:hadoop-env.sh
vim hadoop-env.sh
#第27行
export JAVA_HOME=/usr/java/jdk1.8.0_65
第二个:core-site.xml
<!-- 指定HADOOP所使用的文件系统schema(URI),HDFS的老大(NameNode)的地址 -->
<property>
<name>fs.defaultFS</name>
<value>hdfs://mater:9000</value>
</property>
<!-- 指定hadoop运行时产生文件的存储目录 -->
<property>gedit
<name>hadoop.tmp.dir</name>
<value>/home/hadoop/hadoop-2.7.1/tmp</value>
</property>
第三个:hdfs-site.xml hdfs-default.xml (3)
<!-- 指定HDFS副本的数量 -->
<property>
<name>dfs.replication</name>
<value>1</value>
</property>
第四个:mapred-site.xml (mv mapred-site.xml.template mapred-site.xml)
mv mapred-site.xml.template mapred-site.xml
vim mapred-site.xml
<!-- 指定mr运行在yarn上 -->
<property>
<name>mapreduce.framework.name</name>
<value>yarn</value>
</property>
第五个:yarn-site.xml
<!-- 指定YARN的老大(ResourceManager)的地址 -->
<property>
<name>yarn.resourcemanager.hostname</name>
<value>master</value>
</property>
<!-- reducer获取数据的方式 -->
<property>
<name>yarn.nodemanager.aux-services</name>
<value>mapreduce_shuffle</value>
</property>
3.2将hadoop添加到环境变量
vim /etc/proflie
export JAVA_HOME=/usr/java/jdk1.7.0_65
export HADOOP_HOME=/itcast/hadoop-2.4.1
export PATH=$PATH:$JAVA_HOME/bin:$HADOOP_HOME/bin:$HADOOP_HOME/sbin
source /etc/profile
3.3格式化namenode(是对namenode进行初始化)
hdfs namenode -format (hadoop namenode -format)
3.4启动hadoop
先启动HDFS
sbin/start-dfs.sh
再启动YARN
sbin/start-yarn.sh
3.5验证是否启动成功
使用jps命令验证
27408 NameNode
28218 Jps
27643 SecondaryNameNode
28066 NodeManager
27803 ResourceManager
27512 DataNode
http://master:50070 (HDFS管理界面)
http://master:8088 (MR管理界面)
注意:hadoop2.x的配置文件$HADOOP_HOME/etc/hadoop
伪分布式需要修改5个配置文件
3.1配置hadoop
第一个:hadoop-env.sh
vim hadoop-env.sh
#第27行
export JAVA_HOME=/usr/java/jdk1.8.0_65
第二个:core-site.xml
<!-- 指定HADOOP所使用的文件系统schema(URI),HDFS的老大(NameNode)的地址 -->
<property>
<name>fs.defaultFS</name>
<value>hdfs://mater:9000</value>
</property>
<!-- 指定hadoop运行时产生文件的存储目录 -->
<property>gedit
<name>hadoop.tmp.dir</name>
<value>/home/hadoop/hadoop-2.7.1/tmp</value>
</property>
第三个:hdfs-site.xml hdfs-default.xml (3)
<!-- 指定HDFS副本的数量 -->
<property>
<name>dfs.replication</name>
<value>1</value>
</property>
第四个:mapred-site.xml (mv mapred-site.xml.template mapred-site.xml)
mv mapred-site.xml.template mapred-site.xml
vim mapred-site.xml
<!-- 指定mr运行在yarn上 -->
<property>
<name>mapreduce.framework.name</name>
<value>yarn</value>
</property>
第五个:yarn-site.xml
<!-- 指定YARN的老大(ResourceManager)的地址 -->
<property>
<name>yarn.resourcemanager.hostname</name>
<value>master</value>
</property>
<!-- reducer获取数据的方式 -->
<property>
<name>yarn.nodemanager.aux-services</name>
<value>mapreduce_shuffle</value>
</property>
3.2将hadoop添加到环境变量
vim /etc/proflie
export JAVA_HOME=/usr/java/jdk1.7.0_65
export HADOOP_HOME=/itcast/hadoop-2.4.1
export PATH=$PATH:$JAVA_HOME/bin:$HADOOP_HOME/bin:$HADOOP_HOME/sbin
source /etc/profile
3.3格式化namenode(是对namenode进行初始化)
hdfs namenode -format (hadoop namenode -format)
3.4启动hadoop
先启动HDFS
sbin/start-dfs.sh
再启动YARN
sbin/start-yarn.sh
3.5验证是否启动成功
使用jps命令验证
27408 NameNode
28218 Jps
27643 SecondaryNameNode
28066 NodeManager
27803 ResourceManager
27512 DataNode
http://master:50070 (HDFS管理界面)
http://master:8088 (MR管理界面)
0 0
- Ubuntu安装hadoop2.7.1----伪分布搭建
- hadoop2.2伪分布搭建
- hadoop2.2.0伪分布搭建
- Ubuntu 14.04安装Hadoop2.5.2(伪分布模式)
- Ubuntu安装Hadoop2进行单机和伪分布配置
- Hadoop2伪分布模式安装
- hadoop2.2.0伪分布安装
- Hadoop2安装-伪分布模式
- hadoop2.X 伪分布安装
- hadoop2.7.1 在Ubuntu 32位 上安装单机版伪分布环境
- hadoop2.4.1的伪分布环境搭建
- Hadoop2.6.0伪分布环境搭建
- Hadoop2.x伪分布环境搭建
- Hadoop2环境搭建(单机伪分布)
- hadoop2.4.1伪分布环境搭建
- hadoop2.4伪分布的搭建
- hadoop2.4.1中伪分布搭建
- Hadoop2.6.0伪分布环境搭建
- Java中文件的操作
- Java基础复习(四)
- S5PV210的ADC控制器
- HDU 5665 Lucky
- C#序列化与反序列化总结
- Ubuntu安装hadoop2.7.1----伪分布搭建
- view的分层显示
- 高斯消元模板
- 获得activity的rootview
- UVA 1001 Say Cheese(最短路)
- 很奇怪的bootclasspath参数 同文章里说的一样,也没有搞清楚 为什么需要显式地指定一下-bootclasspath
- HDU 5666 Segment
- STM32的FATFS文件系统移植的debug过程
- 越来越好玩的C语言,输出的*