Mac环境下安装Hadoop伪分布模式

来源:互联网 发布:c语言float是什么意思 编辑:程序博客网 时间:2024/05/22 10:45

Hadoop是一个由Apache基金会所开发的分布式系统基础架构。这里讲述在Mac上安装Hadoop伪分布模式的过程。

环境:Mac OS X 10.11 + Hadoop-2.6.5

1 下载

官网下载Hadoop(下载链接),选择binary文件下载,source源码是需要自己编译后使用。

2 安装(2.6.5版本)

2.1 hdfs-site.xml

将下载的文件解压,进入/etc/hadoop/文件夹,编辑hdfs-site.xml文件,加入以下配置信息

<configuration><property>          <name>dfs.replication</name>          <value>1</value>      </property>      <property>          <name>dfs.namenode.name.dir</name>          <value>/Users/kangkang/hadoop/hadoop-2.6.5/dfs/name</value>      </property>      <property>          <name>dfs.datannode.data.dir</name>          <value>/users/lichengjin/hadoop/hadoop-2.6.5/dfs/data</value>      </property>     <property>        <name>dfs.permissions</name>        <value>true</value>        <description>'true'打开权限,'false'关闭权限</description></property></configuration>
2.2 hadoop-env.sh

更改/etc/hadoop/文件夹下的另外一个文件hadoop-env.sh,修改配置JDK的目录:

# The java implementation to use.export JAVA_HOME=/Library/Java/JavaVirtualMachines/jdk1.8.0_121.jdk/Contents/Home

到此就配置完成了。

3 启动Hadoop。

运行命令:

sbin/start-all.sh

可能会提示输入几次密码,为避免下次启动多次数据密码,可以通过ssh配置解决(参考Hadoop集群配置无密码登录)。

通过命令

jps

查看运行状态

[MacBook-Pro]:apache-phoenix-4.9.0-HBase-1.1-bin kk$ jps8113 HMaster562 1348 NameNode1428 DataNode1525 SecondaryNameNode11470 Jps1630 ResourceManager1710 NodeManager8942 Main
0 0