hadoop-2.5.2配置过程

来源:互联网 发布:java @import 编辑:程序博客网 时间:2024/06/02 02:17

按照文档先配置下来,注意需要配置zookeeper(为high avaliable建造的)。
hadoop时候,
记得先配置zookeeper的myid(需要自己配,查文档,可能没有该文件),id唯一
需要启动先zookeeper
./zkServer.sh start
格式化在hadoop的bin目录下
启动在sbin目录下(一般来说)

然后启动journalnode在每个这种类型的节点上
./hadoop-daemon.sh start journalnode
格式化其中一个namenode
./hdfs namenode -format
再启动这个格式化的namenode(只启动一个)
./hadoop-daemon.sh start namenode
启动后将该节点元数据拷贝到其它namenode节点上
拷贝可在没有元数据的namenode上执行下面命令
hdfs namenode -bootstrapStandby
格式化zookeeper与hdfs的关联,在其中一个namenode上即可(每个namenode对应一个zkfc)
hdfs zkfc -formatZK

测试每个步骤是配置正确。测试成功后,以后启动在sbin下hdfs操作用
./start-dfs.sh启动
./sop-dfs.sh关闭

期间遇到了一些错误,配置没仔细检查,导致http连接和hdfs的连接不在同一块。结果什么都能跑,就是通信不对,正确的操作得不到正确的显示,一直尝试重新连接和提示RECEIVED SIGNAL 15: SIGTERM。
还有啊,重新尝试的时候,最好该删的都删掉,免得出错。如果是有用的东西,就先保存了再重新配置。

之后就配置 yarn和mapReduce了。按如下配置了一番,然后启动yarn。
使用命令start-yarn.sh。hadoop2.5不支持使用start-all.sh。提倡hdfs和处理进行分离,所以正确额做法是start-dfs.sh和start-yarn.sh两者分开使用。

0 0
原创粉丝点击