批量Load到HBase
来源:互联网 发布:淘宝竞拍是真的吗 编辑:程序博客网 时间:2024/06/05 03:23
hbase提供了写的操作,通常,我们可以采用HBase的Shell 客户端或者Java API进行操作。
如果数据量大的话,这两种操作是很费时的。其实如果了解了HBase的数据底层存储的细节的话,HBase的数据存储格式是HFile定义的格式。
批量导入HBase主要分两步:
- 通过mapreduce在输出目录OutputDir下生成一系列按Store存储结构一样的,存储HFile文件
- 通过LoadIncrementalHFiles.doBulkLoad把OutputDir里面的数据导入HBase表中
优点
- HBase提供了一种直接写hfile文件的类,同时通过类似传统数据库的load把这些文件写进去,不再需要通过客户端或Java API一条一条插进去,
- 这些接口简单方便,快捷灵活;
- 应用不需要一直去连HBase集群进行RPC multi写,提高mapreduce效率;
- HBase集群也相应减少不必要的连接,可以让它去多干些其它的事,效率更加高效,降低HBase集群因为大量并发写而产生不必要的风险。
1. 从HDFS批量导入
在MapReduce里面就把想要的输出成HFileOutputFormat格式的文件,然后通过LoadIncrementalHFiles.doBulkLoad方式就可以load进去即可。例子如下:
- Configuration conf = getConf();
- conf.set("hbase.table.name", args[2]);
- // Load hbase-site.xml
- HBaseConfiguration.addHbaseResources(conf);
- Job job = new Job(conf, "HBase Bulk Import Example");
- job.setJarByClass(Mapper2.class);
- job.setMapperClass(Mapper2.class);
- job.setMapOutputKeyClass(ImmutableBytesWritable.class);
- job.setMapOutputValueClass(KeyValue.class);
- job.setInputFormatClass(TextInputFormat.class);
- // Auto configure partitioner and reducer
- HTable hTable = new HTable(conf, args[2]);
- HFileOutputFormat.configureIncrementalLoad(job, hTable);
- FileInputFormat.addInputPath(job, new Path(args[0]));
- FileOutputFormat.setOutputPath(job, new Path(args[1]));
- job.waitForCompletion(true);
- // Load generated HFiles into table
- LoadIncrementalHFiles loader = new LoadIncrementalHFiles(conf);
- loader.doBulkLoad(new Path(args[1]), hTable);
2. 从MySQL批量导入
这个星期把一些MySQL表导到线上HBase表。这个MySQL表散了100份,在HBase集群未提供向业务使用时,通过Sqoop工具导进HBase表所花费的时间大约32个小时(已串行化),在hbase集群繁忙时,花了10个小时都还没有把一张表导到HBase里面。这是有原因的,Sqoop未实现批量导的功能,它通常是边读边写。
后来自己写了一个从MySQL批量导入HBase的应用程序,每个表导入HBase所需时间平均只需要8分钟。
核心代码如下:
- HBaseConfiguration.addHbaseResources(conf);
- Job job = new Job(conf, "Load_MySQL_" + table + "_to_HBase_" + hbaseTable);
- // 用来读mysql的Mapper
- job.setJarByClass(MysqlMapper.class);
- job.setMapperClass(MysqlMapper.class);
- job.setMapOutputKeyClass(ImmutableBytesWritable.class);
- job.setMapOutputValueClass(KeyValue.class);
- //配置DB参数
- DBConfiguration.configureDB(job.getConfiguration(), driver, connect, username, password);
- DataDrivenDBInputFormat.setInput(job, dbWritableClass, query, boundaryQuery);
- DataDrivenDBInputFormat.setInput(job, dbWritableClass, table, conditions, splitBy, columns);
- //设置输出路径
- FileOutputFormat.setOutputPath(job, new Path(tmpTargetDir));
- // 自动设置partitioner和reduce
- HTable hTable = new HTable(conf, hbaseTable);
- HFileOutputFormat.configureIncrementalLoad(job, hTable);
- job.waitForCompletion(true);
- // 上面JOB运行完后,就把数据批量load到HBASE中
- LoadIncrementalHFiles loader = new LoadIncrementalHFiles(conf);
- loader.doBulkLoad(new Path(tmpTargetDir), hTable);
- 批量Load到HBase
- 批量Load到HBase
- hive批量导入到hbase
- bulk-load装载hdfs数据到hbase
- bulk-load 装载HDFS数据到HBase
- [HBase] bulk-load装载hdfs数据到hbase小结
- 《hbase学习》-03-命令行load数据文件到Hbase
- 从hdfs批量导数据到hbase
- 批量(bulkload)载入数据到hbase
- 《hbase学习》-02-程序批量put数据到Hbase
- 从hdfs批量导出数据到hbase表中
- 使用java MapReduce job 批量导入大额数据到Hbase
- 一个为spark批量导入数据到hbase的库
- 批量上传非结构化数据到HBase
- 初识Hbase-使用批量导入将.TSV文件中数据导入到Hbase表中
- Hbase Load Balancing
- Bulk Load使用--利用MapReduce job实现上传海量数据到HBase
- Pig脚本从Hive中load数据并存入到Hbase中
- spring2整合struts1
- [unity3d]Unity3D与android交互----构建android插件
- Cocos2d-x之CCImage深入分析
- UISlider的使用
- AQuery简介:jQuery for Android
- 批量Load到HBase
- understand官方网站,可以学习它的使用
- 关于iframe自适应高度的做法 在同一个域下面
- 利用xcopy命令实现本地文件复制到远程服务器的方法
- Response.ContentType详细说明
- C++多线程之使用Mutex和Critical_Section
- 学习
- jQuery中的事件
- Sprite Kit教程:如何拖放Sprites