Sqoop导表在大并发下造成RegionServer的系统cpu过高

来源:互联网 发布:switch case用法 java 编辑:程序博客网 时间:2024/05/01 18:26

对于初始时只有一个Region并配置过多的map时,可能会造成某一RegionServer的系统cpu过高,主要原因是多个map任务会通过RPC同时向一个RegionServer写入数据,当RegionServer的RPC Handler线程过少时,其它map端就会等待,此时RegionServer会堆积大量的网络请求二无法及时响应,从而造成系统cpu过高,解决方案:

方案一:

增大RegionServer的RPC Handler线程数量(目前亦庄HBase集群中RegionServer的RPC Handler线程数量为25)

方案二:

减少Sqoop导表时map任务数量的设置

方案三:

创建HBase中对应的表示,为其创建多个Region

0 0
原创粉丝点击