虚拟机ubuntu部署hadoop2.2.0伪分布(1)
来源:互联网 发布:极装吉住靠谱吗 知乎 编辑:程序博客网 时间:2024/04/30 04:48
链接:http://pan.baidu.com/s/1bn4IIQF密码:ramg
开发环境:win7(32bit)+Eclipse(eclipse-jee-indigo-SR2-win32)
1、首先安装虚拟机VMWare,然后在虚拟机上安装ubuntu系统(/linux镜像文件/ubuntu-12.04-server-i386.ios)
虚拟机和win7的网络连接方式配置的是桥连
2、要查看ubuntu中的apt-get是否能用(sudo apt-get update是否报错),如果不可以用,需要查找能够连接上的软件源
(软件源可以在http://wiki.ubuntu.org.cn/%E6%BA%90%E5%88%97%E8%A1%A8此地址查找合适的数据源,更新步骤同样是参考此处)。
更新apt-get的目的是在线安装vsftp(方便win7系统和虚拟机交互),ssh(用于hadoop启动)。
(1)首先备份源列表(for sure):sudo cp /etc/apt/sources.list /etc/apt/sources.list_backup
(2)而后用gedit或其他编辑器打开: vim /etc/apt/sources.list,目前本人选择的软件源为搜狐更新服务器:
deb http://mirrors.sohu.com/ubuntu/ utopic main restricted universe multiverse
deb http://mirrors.sohu.com/ubuntu/ utopic-security main restricted universe multiverse
deb http://mirrors.sohu.com/ubuntu/ utopic-updates main restricted universe multiverse
deb http://mirrors.sohu.com/ubuntu/ utopic-proposed main restricted universe multiverse
deb http://mirrors.sohu.com/ubuntu/ utopic-backports main restricted universe multiverse
deb-src http://mirrors.sohu.com/ubuntu/ utopic main restricted universe multiverse
deb-src http://mirrors.sohu.com/ubuntu/ utopic-security main restricted universe multiverse
deb-src http://mirrors.sohu.com/ubuntu/ utopic-updates main restricted universe multiverse
deb-src http://mirrors.sohu.com/ubuntu/ utopic-proposed main restricted universe multiverse
deb-src http://mirrors.sohu.com/ubuntu/ utopic-backports main restricted universe multiverse
替换掉文件中所有的内容,保存编辑好的文件。
注意:一定要选对版本
(3)刷新列表: sudo apt-get update
注意:一定要执行刷新
3、更新vsftp
(1)查看系统是否有ftp服务:ps -e | grep vsftpd,如果安装就可以不再重复安装
(2) vsftp执行命令:sudo apt-get install vsftpd
执行此命令后可能出现以下报错,出现此报错说明没有执行sudo apt-get update此命令或者是软件源不正常导致的,需要重新配置软件源,并执行sudo apt-get update命令:
安装完成之后主要修改/etc/vsftpd.conf这个文件(没发现这个文件?看看有没/etc/vsftpd/vsftpd.conf...)。注意,修改VSFTP配置之后需要重启一下其服务。(参考地址http://blog.sina.com.cn/s/blog_6b45901801012z0i.html)
1、下面这个控制用户上传许可:
write_enable=YES//该选项一般要打开,否则用户无法上传文件
(3)重启
service vsftpd restart
4、安装shh
ssh执行命令:sudo apt-get install ssh(可参考网址:http://www.aboutyun.com/thread-6487-1-1.html)
通过ssh localhost测试一下自己有没有设置好无口令登陆,如果没有设置好,系统将要求你输入密码,通过下面的设置可以实现无口令登陆,具体原理请百度谷歌:
$ ssh-keygen -t dsa -P '' -f ~/.ssh/id_dsa
$ cat ~/.ssh/id_dsa.pub >> ~/.ssh/authorized_keys
5、安装jdk(下载路径/jdk/jdk-7-linux-i586.tar)(可参考网址:http://www.aboutyun.com/thread-6750-1-1.html)
(1)解压安装
01.sudo mkdir /usr/lib/jvm
02.sudo tar zxvf ./jdk-7-linux-i586.tar.gz -C /usr/lib/jvm
03.cd /usr/lib/jvm
04.sudo mv jdk1.7.0 java
(2)修改环境变量
vim ~/.bashrc
在最下边增加以下代码
export JAVA_HOME=/usr/lib/jvm/java
export JRE_HOME=${JAVA_HOME}/jre
export CLASSPATH=.:${JAVA_HOME}/lib:${JRE_HOME}/lib
export PATH=${JAVA_HOME}/bin:$PATH
(3)配置默认JDK版本
由于ubuntu中可能会有默认的JDK,如openjdk,所以,为了将我们安装的JDK设置为默认JDK版本,还要进行如下工作。
执行代码:
sudo update-alternatives --install /usr/bin/java java /usr/lib/jvm/java/bin/java 300
sudo update-alternatives --install /usr/bin/javac javac /usr/lib/jvm/java/bin/javac 300
sudo update-alternatives --install /usr/bin/jar jar /usr/lib/jvm/java/bin/jar 300
sudo update-alternatives --install /usr/bin/javah javah /usr/lib/jvm/java/bin/javah 300
sudo update-alternatives --install /usr/bin/javap javap /usr/lib/jvm/java/bin/javap 300
(4)测试
$ java -version
java version "1.7.0"
Java(TM) SE Runtime Environment (build 1.7.0-b147)
Java HotSpot(TM) Server VM (build 21.0-b17, mixed mode)
6、hadoop2.2.0安装(下载路径/hadoop/hadoop-2.2.0.tar.gz)(可参考网址:http://www.linuxidc.com/Linux/2014-09/106148.htm)
(1)、解压hadoop压缩包
sudo tar xzvf hadoop-2.2.0.tar.gz
sudo mv hadoop2.2.0 /home/tom
要确保所有的操作都是在用户tom下完成的:
sudo chown -R tom:tom /home/tom/hadoop-2.2.0
(2)配置.bashrc文件
vim ~/.bashrc在末尾增加如下代码:
export HADOOP_INSTALL=/home/tom/hadoop-2.2.0
export PATH=$PATH:$HADOOP_INSTALL/bin:$HADOOP_INSTALL/sbin
重新加载.bashrc文件
source ~/.bashrc
(3)设定hadoop-env.sh(Java安装路径)
进入hadoop目录,打开/home/tom/hadoop-2.2.0/etc/hadoop/目录(貌似1.x的配置目录是/conf文件夹下,和2.x不同)下到hadoop-env.sh,修改信息:
vim hadoop-env.sh
在大概27行,把之前的export JAVA_HOME=${JAVA_HOME}改为
export JAVA_HOME=/usr/lib/jvm/java (视你机器的java安装路径而定)
并且,让环境变量配置生效source
source ~/hadoop-2.2.0/etc/hadoop/hadoop-env.sh
(4)查看hadoop是否安装成功
通过命令hadoop version命令查看,出现如图结果说明安装成功:
- 虚拟机ubuntu部署hadoop2.2.0伪分布(1)
- 虚拟机ubuntu部署hadoop2.2.0伪分布(2)
- win7 eclipse调用虚拟机ubuntu部署的hadoop2.2.0伪分布(1)
- win7 eclipse调用虚拟机ubuntu部署的hadoop2.2.0伪分布(2)
- hadoop2的伪分布部署
- hadoop2.6.1 完全分布/伪分布部署
- hadoop2.6伪分布部署笔记
- hadoop2.x 伪分布安装部署
- hadoop2.x 伪分布安装部署
- Ubuntu下 hadoop2.5.1 (伪分布模式) 配置工作
- hadoop2.2.0伪分布安装
- hadoop2.2.0伪分布搭建
- Ubuntu安装hadoop2.7.1----伪分布搭建
- 虚拟机环境Hadoop伪分布模式部署
- Ubuntu14.0.4下部署Hadoop2.7.2伪分布模式
- hadoop2.2.0 伪分布环境配置
- hadoop2.2.0伪分布下安装hive
- Hadoop2环境搭建(单机伪分布)
- Maven如何手动添加依赖的jar文件到本地Maven仓库
- Java8的lambda(2)
- UCI机器学习库和一些相关算法 | 丕子
- MFC如何使用GDI+,button加载png
- Web前端开发热门技术(持续更新)
- 虚拟机ubuntu部署hadoop2.2.0伪分布(1)
- POJ 1001 Exponentiation [解题报告] Java
- lucene教程简介
- 计算机网络的虚拟局域网,静态路由,RIP路由,NAT实验
- Java打包成jar,并且通过exe4j做成exe文件,然后利用inno做成setup文件
- 双十二前夕淘宝约架京东,自律比嘴仗更重要
- Java截取字符串
- struts2 <s:textfield> value属性默认值解决方案
- 【谍照】PopMetal开发板运行Chrome OS