ubuntu下配置hadoop单机
来源:互联网 发布:小米有淘宝店吗 编辑:程序博客网 时间:2024/05/21 11:21
本人菜鸟,一下纯属自己理解,有不妥之处还望高手指点。。。。。。
在搭建hadoop的时候看了很多的资料,但是完全看着资料搭建总是不成功,最后自己改了一下所以就记下来,免得以后忘了。
1,下载hadoop就不多说了,到apache官网下载就行了,www.hadoop.apache.org;//我下载的是1.03
2,将下载的文件移动到自己想要的目录,我的是放在/usr/local/hadoop;进入下载的文件所在目录,输入命令 sudo cp -r hadoop-1.0.3.tar.gz /usr/local/hadoop;
3,进入文件目录,cd /usr/local/hadoop 解压文件 sudo tar xvzf hadoop-1.0.3.tar.gz;
4,获得文件的读写权限 sudo chmod * -R;//这一步很重要,有可能直接导致以后的安装出错。在这再多说两句吧,下面所有文件的修改都要用当前用户,也就是不能通过获得root权限对文件进行修改,不然启动hadoop的时候会告诉你没有权限(当然,如果你想只通过root启动hadoop的话我也就不说啥了)。换句话说可以直接打开修改,比如直接gedit ****,而不是sudo gedit ****。
5.安装ssh,sudo apt-get install ssh ;
6.安装rsync ,sudo apt-get install rsync,(这个一般系统都自带了);
7,让ssh无密码登录,ssh-keygen -t rsa -P '' -f ~/.ssh/id_rsa,
cat ~/.ssh/id_rsa.pub >> ~/.ssh/authorized_keys ;(官网是dsa,这根据自己的系统可以先登录试试,ssh localhost ,看看是rsa还是dsa,如果是dsa使用命令
$ ssh-keygen -t dsa -P '' -f ~/.ssh/id_dsa
$ cat ~/.ssh/id_dsa.pub >> ~/.ssh/authorized_keys);
8,登录ssh,ssh localhost;
9,进入hadoop文件夹,修改配置文件conf/hadoop-env.sh (一下在ssh登录的情况下,并在hadoop(解压后的)目录下),
gedit conf/hadoop-env.sh ;
导入JAVA_HOME的路径;例如 export JAVA_HOME=/usr/local/java/jdk7;
10,修改conf/core-site.xml:
gedit conf/core-site.xml;
<configuration>
<property>
<name>fs.default.name</name>
<value>hdfs://localhost:9000</value>
</property>
</configuration>
11,修改conf/hdfs-site.xml:
<configuration>
<property>
<name>dfs.replication</name>
<value>1</value>
</property>
</configuration>
12,修改conf/mapred-site.xml:
<configuration>
<property>
<name>mapred.job.tracker</name>
<value>localhost:9001</value>
</property>
</configuration>
13,格式namenode,
./bin/hadoop namenode -format;
14,启动hadoop
./bin/start-all.sh ;
15,测试,
NameNode - http://localhost:50070/
JobTracker - http://localhost:50030/
如果访问成功表示搭建成功。
在搭建hadoop的时候看了很多的资料,但是完全看着资料搭建总是不成功,最后自己改了一下所以就记下来,免得以后忘了。
1,下载hadoop就不多说了,到apache官网下载就行了,www.hadoop.apache.org;//我下载的是1.03
2,将下载的文件移动到自己想要的目录,我的是放在/usr/local/hadoop;进入下载的文件所在目录,输入命令 sudo cp -r hadoop-1.0.3.tar.gz /usr/local/hadoop;
3,进入文件目录,cd /usr/local/hadoop 解压文件 sudo tar xvzf hadoop-1.0.3.tar.gz;
4,获得文件的读写权限 sudo chmod * -R;//这一步很重要,有可能直接导致以后的安装出错。在这再多说两句吧,下面所有文件的修改都要用当前用户,也就是不能通过获得root权限对文件进行修改,不然启动hadoop的时候会告诉你没有权限(当然,如果你想只通过root启动hadoop的话我也就不说啥了)。换句话说可以直接打开修改,比如直接gedit ****,而不是sudo gedit ****。
5.安装ssh,sudo apt-get install ssh ;
6.安装rsync ,sudo apt-get install rsync,(这个一般系统都自带了);
7,让ssh无密码登录,ssh-keygen -t rsa -P '' -f ~/.ssh/id_rsa,
cat ~/.ssh/id_rsa.pub >> ~/.ssh/authorized_keys ;(官网是dsa,这根据自己的系统可以先登录试试,ssh localhost ,看看是rsa还是dsa,如果是dsa使用命令
$ ssh-keygen -t dsa -P '' -f ~/.ssh/id_dsa
$ cat ~/.ssh/id_dsa.pub >> ~/.ssh/authorized_keys);
8,登录ssh,ssh localhost;
9,进入hadoop文件夹,修改配置文件conf/hadoop-env.sh (一下在ssh登录的情况下,并在hadoop(解压后的)目录下),
gedit conf/hadoop-env.sh ;
导入JAVA_HOME的路径;例如 export JAVA_HOME=/usr/local/java/jdk7;
10,修改conf/core-site.xml:
gedit conf/core-site.xml;
<configuration>
<property>
<name>fs.default.name</name>
<value>hdfs://localhost:9000</value>
</property>
</configuration>
11,修改conf/hdfs-site.xml:
<configuration>
<property>
<name>dfs.replication</name>
<value>1</value>
</property>
</configuration>
12,修改conf/mapred-site.xml:
<configuration>
<property>
<name>mapred.job.tracker</name>
<value>localhost:9001</value>
</property>
</configuration>
13,格式namenode,
./bin/hadoop namenode -format;
14,启动hadoop
./bin/start-all.sh ;
15,测试,
NameNode - http://localhost:50070/
JobTracker - http://localhost:50030/
如果访问成功表示搭建成功。
- ubuntu下配置hadoop单机
- ubuntu下单机配置hadoop(图解)
- hadoop在ubuntu下单机配置
- Ubuntu下安装单机版Hadoop的配置
- 在ubuntu下搭建hadoop环境(单机配置)
- Hadoop 在Ubuntu下的单机配置及运行示例
- ubuntu 配置ganlia监控hadoop 单机配置
- Ubuntu kylin-14.04 下配置 Hadoop 二:安装hadoop(单机模式)
- 在Ubuntu配置hadoop的单机模式
- Hadoop on Ubuntu 实践一:单机配置
- ubuntu下安装hadoop(单机模式)
- ubuntu下hadoop单机伪分布式系统配置
- ubuntu下单机hadoop环境部署
- hadoop在CentOS下的单机配置
- windows下配置Hadoop(单机版)
- centOS下单机配置hadoop攻略
- centOS下单机配置hadoop攻略
- ubuntu14.04下配置单机的hadoop
- robocup 搭建
- Global Memory Base(1)
- 我的路该怎么走?
- 输出星号(一)
- s2 标签的使用
- ubuntu下配置hadoop单机
- Servlet入门(二)
- 七、org.springframework.dao.TransientDataAccessResourceException
- Makefile 概述
- xls 导入 mysql
- Linux-2.6.38.8 移植参考
- Web编程入门经典——HTML,XHTML,和CSS(第一章 练习题)
- Linux赋予用户特殊权限
- 指向const变量的指针去当参数形参的好处