Centos 7 伪分布式安装Hadoop2.6和Hbase0.94
来源:互联网 发布:网络运维主要做什么 编辑:程序博客网 时间:2024/05/16 17:54
一、安装Jdk
首先需要卸载系统自带的openjava,查看系统的Java: rpm -qa|grep java卸载: yum -y remove java javaxxxxx(系统自带的Java版本)
安装jdk,将jdk.tar.gz文件复制到/usr/java中,终端进入/mnt/share ,cp jdk.tar.gz /usr/ava,进入/usr/java解压:tar xzvf jdk.targz
配置环境变量:vi /etc/profile 输入i编辑
在尾部添加:export JAVA_HOME=/usr/java/jdkxxxx
export PATH=$JAVA_HOME/bin:$PATH
export CLASSPATH=.:JAVA_HOME/lib/dt.jar:$JAVA_HOME/lib/tools.jar
保存并退出: wq
使修改生效: source /etc/profile
查看Java版本:java -version
二、Hadoop伪分布式安装
1、ssh无密码登陆
终端:ssh-keygen -t rsa (获得rsa公钥私钥,id_rsa和id_rsa.pub)
cd .ssh
cp id_rsa.pub authorized_keys (将公钥复制给authorized_keys) <分布式则要将所有节点id_rsa.pub相互复制>
2、 /mnt/share cp hadoop2.x /usr.hadoop
解压tar xzvf hadoop 2.x
3、修改core-site.xml、hadoop-env.sh、hdfs-site.xml、mapred-site.xml 、yarn-site.xml(hadoop2.x版本的配置文件在/hadoop2.x/etc/hadoop下)
①core-site.xml:
<configuration><property><name>fs.default.name</name><value>hdfs://localhost:9000</value></property></configuration>
② hadoop-env.sh:
export JAVA_HOME=/usr/java/jdkxxx (jdk路径)
③ hdfs-site.xml: 先创建好数据节点和名称节点的存放路径
<configuration><property><name>dfs.datanode.data.dir</name><value>/user/hadoop/hadoop-2.5.1/data</value></property><property><name>dfs.namenode.name.dir</name><value>/user/hadoop/hadoop-2.5.1/name</value></property><property><name>dfs.replication</name><value>1</value></property></configuration>
④mapred-site.xml: (注意:这个文件是将/hadoop2.x/etc/hadoop下的mapred-site.xml.template复制并重命名 )
<configuration><property><name>mapreduce.framework.name</name><value>yarn</value></property></configuration>
⑤yarn-site.xml:
<configuration><property><name>yarn.nodemanager.aux-services</name><value>mapreduce_shuffle</value></property></configuration>
4、namenode格式化(一定要完成)
终端:cd /usr/hadoop/hadoop-2.5.1/bin
./hdfs namenode -format (输入./hadoop namenode -format也行)
5、运行hadoop
终端: cd /usr/hadoop/hadoop-2.5.1/sbin (2.x版本后启动/停止在sbin目录下)
./start-hdfs.sh
./start-yarn.sh
(也可以只输入./start-all.sh)
输入jps查看启动项,当启动了NameNode、DataNode、SecondaryNameNode、ResourceManager、NodeManager即ok。
可进入Firefox中,输入端口号: localhost:50070 进入hadoop可视化页面。
三、Hbase0.94安装
1、/mnt/share cp hbase1.0.1 /usr.hbase
解压tar xzvf hbase1.0.1
2、修改hbase配置文件hbase-env.sh、hbase-site.xml
hbase-env.sh:
export JAVA_HOME=/usr/java/jdkxxxx (java路径)
export HBASE_MANAGES_ZK=true (都得去掉前面#)
hbase-site.xml:
<configuration><property><name>hbase.rootdir</name><value>hdfs://localhost:9000/hbase</value></property><property><name>hbase.cluster.distributed</name><value>true</value></property><property><name>hbase.zookeeper.quorum</name><value>localhost</value></property><property><name>hbase.tmp.dir</name><value>file:/usr/hbase/tmp</value></property><property><name>hbase.zookeeper.property.dataDir</name><value>file:/usr/hbase/zookeeperdata</value></property></configuration>
3、运行hbase
运行前需先启动hadoop,再进入hbase的bin目录下输入指令 ./start-hbase.sh
输入jps查看启动项,如有HMaster、HRegionServer、HQuormPeer,则说明hbase启动成功。
输入./hbase Shell (进入shell指令,可通过shell指令建表)
bin/hbase-daemon.sh start zookeeper
bin/hbase-daemon.sh start master
bin/hbase-daemon.sh start regionserver
- Centos 7 伪分布式安装Hadoop2.6和Hbase0.94
- Hadoop2.2.0 + HBase0.96 伪分布式安装
- centos 7 安装+hadoop2.6.5环境部署(伪分布式)
- centos安装hadoop2.7.2伪分布式
- Hadoop2.6伪分布式安装
- hadoop2.5.0和hbase0.98完全分布式安装
- Ubuntu16.04下伪分布式环境搭建之hadoop2.6.0、jdk1.7、Hbase0.98的安装与配置
- hadoop - hadoop2.6 伪分布式安装和ssh 安装
- Hadoop2伪分布式安装
- Hadoop2 伪分布式安装
- hbase0.98.8伪分布式方式安装
- Spark1.2+Hadoop2.6伪分布式安装
- Mac下hadoop2.7 伪分布式安装
- HBase0.94和Hadoop2 结合
- CentOS 64位系统环境下Hadoop2.6伪分布式安装笔记
- Flume1.5.0的安装、部署、简单应用(含伪分布式、与hadoop2.2.0、hbase0.96的案例
- (4) Flume1.5.0的安装、部署、简单应用(含伪分布式、与hadoop2.2.0、hbase0.96的案例) (1-8)
- Flume1.5.0的安装、部署、简单应用(含伪分布式、与hadoop2.2.0、hbase0.96的案例)
- JDK并发包---(7)允许多个线程同时访问的:信号量(Semaphore)
- R+工业级GBDT︱微软开源 的LightGBM(R包已经开放)
- centos 7 lvs 负载均衡搭建
- xx-net 的下载和安装,mac系统的安装
- eclipse ADT重写方法时解决参数arg0, arg1可读性
- Centos 7 伪分布式安装Hadoop2.6和Hbase0.94
- shopnc nodejs安装
- 程序员面试金典第一章:数组与字符串(5) 基本字符串压缩
- php中curl的详细解说
- mysql 5.7 忘记root密码解决办法
- pthread线程
- android开发总结
- 我的2016——培训、工作,回首大学
- Android 错误总结