重拾hadoop hbase知识

来源:互联网 发布:宏景hr软件 编辑:程序博客网 时间:2024/05/01 21:13

哎,最近连连失利啊。

hadoop集群启动jps查看后没有DATANODE

经常会遇到这样的情况,hadoop的datanode启动一阵子后,突然一会又down掉了这样的现象

主要原因是多次format namenode 造成namenode 和datanode的clusterID不一致。

方法:建议查看datanode上面的log信息。解决办法:删除data/hadoop/cluster/data/current/VERSION文件后重启即可


一段时间不用hadoop后或者在虚拟机上运行hadoop的时候,从一个硬盘移动到另一个地方:

一定要用ssh 先无密码登陆下,因为是为了机器把陌生主机名加入信任。。。否则会出现让你确认是否需要连接的提示:yes/no


linux给用户添加sudo权限: 
有时候,linux下面运行sudo命令,会提示类似: 
xxxis not in the sudoers file.  This incident will be reported. 
这里,xxx是用户名称,然后导致无法执行sudo命令,这时候,如下解决:
进入超级用户模式。也就是输入"su -",系统会让你输入超级用户密码,输入密码后就进入了超级用户模式。(当然,你也可以直接用root用)
添加文件的写权限。也就是输入命令"chmod u+w /etc/sudoers"。 
编辑/etc/sudoers文件。也就是输入命令"vim /etc/sudoers",进入编辑模式,找到这一 行:"root ALL=(ALL) ALL"在起下面添加"xxx ALL=(ALL) ALL"(这里的xxx是你的用户名),然后保存退出。
撤销文件的写权限。也就是输入命令"chmod u-w /etc/sudoers"。 
然后就行了。


HMaster启动后自动关闭可能有多种原因,按照自己的经验,可以试着尝试以下方法:
1. 重新格式化namenode,重启HMaster看问题是否依旧存在;
2. 检查/hbase目录的hdfs权限设置是否有问题;


java.net.ConnectException: Call From db96/192.168.8.96 to db96:49002 failed on connection exception: java.net.ConnectExceptio
n: 拒绝连接; For more details see:  http://wiki.apache.org/hadoop/ConnectionRefused

解决办法:hbase里的hbase-site.xml,该处配置要与Hadoop中core-site.xml中dfs端口号配置一致。


Hbase 集群部署启动后几秒自动退出异常处理,

1.Hadoop 与 hbase 版本不兼容,会导致此异常。

2.log 为 org.apache.hadoop.hbase.TableExistsException: hbase:namespace 异常,

很可能是更换了Hbase的版本过后zookeeper还保留着上一次的Hbase设置,所以造成了冲突。

  解决方案:(这里作者就出现过这个错误 搞了好几个小时才定位到是这个错误)
1.切换到zookeeper的bin目录;

2.执行$sh zkCli.sh

输入 ls /

4.输入rmr /hbase

5.quit 退出重启即可

0 0
原创粉丝点击