Hadoop学习笔记(2)——搭建平台
来源:互联网 发布:java程序员书籍 编辑:程序博客网 时间:2024/06/07 07:10
我使用的是Ubuntu14操作系统,在两台PC机间组建集群。
1.Ubuntu的安装
我使用U盘安装。从Ubuntu官网下载镜像文件http://www.ubuntu.org.cn/index_kylin。使用UltralSO制作成Ubuntu的启动盘,按提示安装到集群所有PC机上。要求创建同一用户。
2.集群的组建
将所有LinuxPC机组建进局域网,分配静态IP。
3.写入hosts
ubuntu下hosts文件在/etc/下,
sudo vim /etc/hosts将集群中所有PC机的IP地址及机名写入hosts文件,使用”ping ip地址“指令检测局域网是否成功,若能ping通,则成功。
4.集群中ssh免密钥登陆
在主节点上打开终端,使用自己的用户进入用户目录下(/home/用户名/),创建隐藏文件夹.ssh,生成密钥对(过程中一直回车即可),
mkdir .ssh
ssh-keygen -t rsa生成后在.ssh文件夹下会多出三个文件:known_hosts;id_rsa;id_rsa.pub;将id_rsa.pub复制一份命名为authorized_key,放在当前目录,其中id_rsa.pub中保存本机的私钥,authorized_keys中保存本机公钥(换句话说,authorized_keys中保存集群中各节点互相登陆的凭证,只要每个节点中的authorized_keys保存了所有节点的私钥,就能够实现集群中节点间的免密钥登陆),之后就需要在集群中的每个节点上生成ssh密钥对,然后将私钥内容分别写进authorized_key文件,并每个节点各保存一份,这样ssh免密钥登陆就完成了。
假如只需要主节点获取对子节点的免密钥登陆,由于在同一局域网中,只需要在主节点将自己的authorized_key分发到各个子节点的.ssh目录下
scp authorized_keys 主机名:/home/用户名/.ssh
免密钥登陆:
ssh 节点机名初次登陆需要输入用户密码,之后就不再需要了。ssh登陆其他节点后就能在该节点上进行远程操作了。
5.配置java环境
由于hadoop中的框架用java编写,所以配置java环境是必须的,详细的配置方法在这里就不多说了。
到此,环境搭建完成。
0 0
- Hadoop学习笔记(2)——搭建平台
- hadoop学习【5】——搭建伪分布式hadoop平台
- Hadoop学习——Hadoop集群搭建笔记
- Hadoop平台环境搭建笔记
- Hadoop学习平台的搭建
- Hadoop学习笔记—14.ZooKeeper环境搭建
- Hadoop学习笔记—14.ZooKeeper环境搭建
- hadoop学习笔记2:hadoop分布式环境搭建
- Hadoop学习笔记(2)-搭建Hadoop本地模式
- Hadoop学习笔记-Hadoop HDFS环境搭建
- Hadoop学习笔记——Hadoop常用命令
- 【Hadoop学习笔记】——Hadoop基础
- Hadoop学习笔记—1.初识hadoop
- Hadoop全分布平台搭建——小试牛刀
- 典型云平台介绍——《Hadoop实战初级部分》学习笔记
- Hadoop学习笔记-搭建源码学习环境
- Hadoop数据分析平台学习笔记1
- hadoop平台搭建
- HDU 5093 Battle ships(二分图最大匹配)
- linux screen 命令详解
- JSON与XML的区别比较
- Redhat6.2 部署nfs服务记录
- Java SDK 解决SDK Manager更新SDK异常问题
- Hadoop学习笔记(2)——搭建平台
- 图解SQL的Join
- Chromium Graphics: 再谈Chromium WebView硬件渲染模式的演进
- httpclient发送Json请求,结果返回Json.
- Can't locate Time/HiRes.pm in @INC
- 源码安装xen
- HDU 4819 Mosaic (二维线段树)
- android:layout_weight的用法
- TOS/DSCP 对照表