Hadoop分布式安装03
来源:互联网 发布:js获取视频播放时间 编辑:程序博客网 时间:2024/06/16 00:08
进行Hadoop的安装和配置
第一步 建立一个文件
mkdir /hadoop
进入下载的hadoop-2.7.1.tar.gz的文件中进行解压,解压到建立的文件夹中去
tar -zxvf hadoop-2.7.1.tar.gz -C /hadoop/
然后对hadoop进行配置
首先进入hadoop的etc配置文件中
cd /hadoop/hadoop-2.7.1/etc/hadoop
第一个需要配置的 :hadoop-env.sh
vim hadoop-env.sh配置当中的JAVA_HOME,将${JAVA_HOME}修改成安装的路径export JAVA_HOME=/usr/lib/jvm/jdk1.7.0_79
第二需要配置的是:core-site.xml
vim core-site.xml然后进行配置<configuration><!-- 用来指定HDFS的老大(NameNode)的地址 这里可以用IP也可以写hostname --> <property> <name>fs.defaultFS</name> <value>hdfs://192.168.0.100:9000</value> </property> <!-- 用来指定hadoop运行时产生文件的存放目录 --> <property> <name>hadoop.tmp.dir</name> <value>/hadoop/hadoop-2.7.1/tmp</value> </property> </configuration>
第三个需要配置的文件: hdfs-site.xml
vim hdfs-site.xml 然后进行配置这里是进行副本的数量的设置,如果是伪分布式的话副本是1,一般分布式集群默认是3,表示包括文件本身和副本一共的数量是3份。<configuration> <property> <name>dfs.replication</name> <value>2</value> </property></configuration>
第四个需要配置的文件:mapred-site.xml
这里没有mapred-site.xml,但是我们有template结尾的,重命名即可。mv mapred-site.xml.template mapred-site.xml 然后进行配置vim mapred-site.xml<!-- 告诉Hadoop以后MR运行在YARN上 --> <configuration> <property> <name>mapreduce.framework.name</name> <value>yarn</value> </property> </configuration>
第五个配置文件:yarn-site.xml
vim yarn-site.xml 进行配置<configuration><!-- Site specific YARN configuration properties --><!-- 告诉NodeManager获取数据的方式是shuffle方式。 --> <property> <name>yarn.nodemanager.aux-services</name> <value>mapreduce_shuffle</value> </property> <!-- 指定YARN的老大(ResourceManager)的地址 --> <property> <name>yarn.resourcemanager.hostname</name> <value>hadoop01</value> </property></configuration>
这样Hadoop的基本配置就完成了。下一步进行测试运行。
0 0
- Hadoop分布式安装03
- Hadoop分布式安装
- Hadoop简易分布式安装
- Hadoop分布式安装
- Hadoop 伪分布式安装
- hadoop 伪分布式安装
- Hadoop 伪分布式安装
- hadoop分布式安装
- hadoop 分布式文件系统安装
- Hadoop分布式安装
- HADOOP伪分布式安装
- hadoop完全分布式安装
- hadoop分布式安装过程
- hadoop 安装 分布式模式
- hadoop伪分布式安装
- hadoop 分布式安装
- Hadoop伪分布式安装
- hadoop分布式安装
- LeetCode75——Sort Colors
- FIO测试磁盘的iops
- java.lang.RuntimeException: Can't create handler inside thread that has not called Looper.prepare()
- JavaScript DOM编程艺术-JavaScript图片库
- 杨辉三角的一些性质
- Hadoop分布式安装03
- AltiumDesigner04——精确控制PCB板的尺寸大小
- 南大软院大神养成计划第二天
- php中的fopen函数
- EL表达式 (详解)
- 关于反射详解
- Hbase和Hive的区别
- 地图
- Ibatis代码自动生成工具