hadoop之hdfs参数配置详解

 1、hdfs-site.xml 参数配置

– dfs.name.dir

– NameNode 元数据存放位置

– 默认值：使用core-site.xml中的hadoop.tmp.dir/dfs/name

– dfs.block.size

– 对于新文件切分的大小，单位byte。默认是64M,建议是128M。每一个节点都要指定，包括客户端。

– 默认值：67108864

– dfs.data.dir

– DataNode在本地磁盘存放block的位置，可以是以逗号分隔的目录列表，DataNode循环向磁盘中写入数据，每个DataNode可单独指定与其它DataNode不一样

– 默认值：${hadoop.tmp.dir}/dfs/data

– dfs.namenode.handler.count

– NameNode用来处理来自DataNode的RPC请求的线程数量 

– 建议设置为DataNode数量的10%，一般在10~200个之间 

– 如设置太小，DataNode在传输数据的时候日志中会报告“connecton refused"信息 

– 在NameNode上设定

– 默认值：10

– dfs.datanode.handler.count

– DataNode用来连接NameNode的RPC请求的线程数量

– 取决于系统的繁忙程度 

– 设置太小会导致性能下降甚至报错

– 在DataNode上设定

– 默认值：3

– dfs.datanode.max.xcievers

– DataNode可以同时处理的数据传输连接数 

– 默认值：256

– 建议值：4096

– dfs.permissions

– 如果是true则检查权限，否则不检查（每一个人都可以存取文件） 

– 于NameNode上设定

– 默认值：true

– dfs.datanode.du.reserved

– 在每个卷上面HDFS不能使用的空间大小 

– 在每个DataNode上面设定

– 默认值：0

– 建议为10737418240，即10G。需要结合MapReduce场景设置。 

– dfs.datanode.failed.volumes.tolerated

– DataNode可以容忍损块的磁盘数量，超过这个数量DataNode将会离线，所有在这个节点上面的block将会被重新复制 

– 默认是0，但是在有多块磁盘的时候一般会增大这个值

– dfs.replication

– 在文件被写入的时候，每一块将要被复制多少份 

– 默认是3份。建议3份 

– 在客户端上设定 

通常也需要在DataNode上设定

2、HDFS core-site.xml 参数配置

– fs.default.name

– 文件系统的名字。通常是NameNode的hostname与port

– 需要在每一个需要访问集群的机器上指定，包括集群中的节点 

– 例如：hdfs://<your_namenode>:9000/

– fs.checkpoint.dir

– 以逗号分隔的文件夹列表，SecondNameNode用来存储checkpoint image文件 

– 如果多于一个文件夹，那么都会被写入数据 

– 需要在SecondNameNode上设定

– 默认值：${hadoop.tmp.dir}/dfs/namesecondary

– hadoop.tmp.dir

– HDFS与本地磁盘的临时文件 

默认是/tmp/hadoop-${user.name}.需要在所有的节点中设定

– fs.trash.interval

– 当一个文件被删掉后，它会被放到用户目录的.Trash目录下，而不是立即删掉 

– 经过此参数设置的分钟数之后，再删掉数据 

– 默认是0，禁用此功能，建议1440（一天）

– io.file.buffer.size

– 设定在读写数据时的缓存大小，应该为硬件分页大小的2倍 

– 默认是4096，建议为65536 （ 64K） 

3、设置log文件的大小和数量

– 修改core-site.xml中的参数 

– hadoop.logfile.size

– hadoop.logfile.count

4、设置组件的日志级别

• 查看不同组件的日志级别 

– hadoop daemonlog -getlevel host:port packageName

• 设置组件的日志级别

– hadoop daemonlog –setlevle  host:port packageName level

– hadoop daemonlog -setlevel db74:50070 org.apache.hadoop ERROR

• DEBUG, INFO, ERROR, FATAL

–  端口为前台页面的端口，缺省为50070

• 组件名称(packageName)

–  org.apache.hadoop.hdfs.server.namenode.NameNode 

–  org.apache.hadoop.hdfs.server.datanode.DataNode

–  org.apache.hadoop.hdfs 

–  org.apache.hadoop

– org.apache.hadoop.mapred.JobTracker

重要程度由低到高依次为DEBUG < INFO < WARN < ERROR < FATAL。日志输出规则为：只输出级别不低于设定级别的日志信息。比如，级别设定为INFO，则INFO、WARN、ERROR和FATAL级别的日志信息都会被输出，但级别比INFO低的DEBUG则不会被输出。DEBUG为测试，INFO为默认，一般生产用，ERROR错误，

5、hdfs的进程节点

1.namenode

记录源数据的命名空间

数据分配到那些datanode保存

协调客户端对文件访问

2.datanode

负责所在物理节点的储存管理

一次写入,多次读取(不能修改)

文件由数据块组成,典型的块大小是64M

数据块尽量散步到各个节点

3.secondarynamenode (辅助)

当NameNode重启的时候，会合并硬盘上的fsimage文件和edits文件，得到完整的Metadata信息。这个fsimage文件可以看做是一个过时的Metadata信息文件（最新的Metadata修改信息在edits文件中）。

如果edits文件非常大，那么这个合并过程就非常慢，导致HDFS长时间无法启动，如果定时将edits文件合并到fsimage，那么重启NameNode就可以非常快。

SecondaryNameNode就做这个合并的工作。

6、hdfs的回收站功能

删除文件时，其实是放入回收站/trash ，回收站里的文件可以快速恢复

可以设置一个时间阈值，当回收站里文件的存放时间超过这个阈值，就被彻底删除， 并且释放占用的数据块

(开启回收站功能)

[hadoop@h1 ~]$ cd /usr/local/hadoop-1.2.1/conf[hadoop@h1 conf]$ vi core-site.xml  (添加下面一段,10080为保留时间,单位分钟)<property><name>fs.trash.interval</name><value>10080</value><description>Number of minutes between trashcheckpoints. If zero, the trash feature is disabted</description></property>

[hadoop@h1 hadoop-1.2.1]$ bin/start-all.sh (重启 回收站功能生效)