大数据技术-HBase:优化hadoop Xceivers
来源:互联网 发布:淘宝摄影工作室 编辑:程序博客网 时间:2024/05/02 01:10
由于hbase是基于hadoop hdfs文件系统之上的,其持久化都是通过调用hdfs的client api达到的,所有hdfs的很多配置参数对hbase的性能影响也是很大的。今天主要说下其中的一个“dfs.datanode.max.xcievers”,注意在hadoop2.6版本这个已经改名了。
现在这个值默认是4096,已经能满足大部分情况了。不能配置太大,因为每个也是需要占用内存空间的,默认可能1MB左右,同时很多线程也会导致CPU负载的急剧增加,影响整体性能。
那么到底配置多大合适呢?
当region打开的时候,仅仅需要的数据时hfile的info block,一旦读完,将会释放服务端资源。打开所有region并不会像预想那样会耗用非常多的服务端资源。而全表扫描的时候将会读取所有block,这时打倒理论上限。
这个公式大致计算出需要的最大线程数,基于hbase的 storefiles,regions和regionservers。同时我们还采用了20%的富余量。同时要注意调高你可以使用的最大sockets数量,否则容易出现其他问题。
0 0
- 大数据技术-HBase:优化hadoop Xceivers
- Hadoop中hdfs和Hbase Xceivers设置
- 大数据技术之Hbase
- 大数据技术-HBase:HBase简介
- 大数据技术-HBase:HBase写入路径
- 大数据技术-HBase:HBase IO HFile
- 大数据技术-HBase:MSLAB介绍
- 大数据技术之HBase篇
- 大数据技术-HBase:MSLAB介绍
- 大数据技术-HBase:HBase 日志划分详解
- 大数据技术-HBase:HBase并发版本控制MVCC
- javaEE+大数据-Hadoop平台如何优化
- Hadoop与大数据技术大会 2012
- Hadoop与大数据技术大会
- 2012 Hadoop与大数据技术大会
- hadoop 大数据技术会议见闻
- 大数据基本概念及Hadoop技术基础
- 大数据技术之Hadoop 基础认识
- 使用JQuery 加载页面时调用JS
- Handler的另外一种用法(HandlerThread)
- java实现从键盘接收一个输入字符
- 在java中如何用键盘输入一个数,字符,字符串
- 如何查看计算机端口状态
- 大数据技术-HBase:优化hadoop Xceivers
- unity自带寻路Navmesh入门教程(三)
- SAP历史库存MB5B的详解
- js 判断截取数字
- 从服务器将ORACLE数据库导出和导入本地oracle数据库中的方法(转+改)
- iOS开发系列--地图与定位
- IMP-00003: 遇到 ORACLE 错误 959
- 陈怡暖:金银震荡盘整,有望再次反弹
- ORA-12505解决