HData——ETL 数据导入/导出工具
来源:互联网 发布:华腾软件系统有限公司 编辑:程序博客网 时间:2024/05/17 23:55
HData是一个异构的ETL数据导入/导出工具,致力于使用一个工具解决不同数据源(JDBC、Hive、HDFS、HBase、MongoDB、FTP、Http、CSV、Excel、Kafka等)之间数据交换的问题。HData在设计上同时参考了开源的Sqoop、DataX,却与之有不同的实现。HData采用“框架+插件”的结构,具有较好的扩展性,框架相当于数据缓冲区,插件则为访问不同的数据源提供实现。
【HData特性】
1、异构数据源之间高速数据传输;
2、跨平台独立运行;
3、数据传输过程全内存操作,不读写磁盘;
4、插件式扩展。
【HData设计】
配置文件:XML格式,配置Reader、Writer的参数(如:并行度、数据库连接地址、账号、密码等);
Reader:数据读取模块,负责从数据源读取数据并写入RingBuffer;
Splitter:根据配置文件中Reader的并行度构造相应数据的ReaderConfig对象供Reader使用,以实现数据的并行读取;
RingBugffer:来自Disruptor的高性能环形数据缓冲区,基于事件监听模式的异步实现,采用无锁方式针对CPU缓存优化,在此用于Reader和Writer的数据交换;
Writer:数据写入模块,负责从RingBuffer中读取数据并写入目标数据源。
HData框架通过配置读取解析、RingBugffer 缓冲区、线程池封装等技术,统一处理了数据传输中的基本问题,并提供Reader、Splitter、Writer插件接口,基于此可以方便地开发出各种插件,以满足各种数据源访问的需求。
【编译&运行】
编译
执行 ./bin/package-hdata.sh 命令,执行成功后将会生成压缩包 ./buildhdata.tar.gz ,然后解压即可。
运行
./bin/hdata --reader READER_NAME -Rk1=v1 -Rk2=v2 --writer WRITER_NAME -Wk1=v1 -Wk2=v2
READER_NAME、WRITER_NAME分别为读/写插件的名称,例如:jdbc、hive Reader插件的参数配置以-R为前缀,Writer插件的参数配置以-W为前缀。
- HData——ETL 数据导入/导出工具
- HData——ETL 数据导入/导出工具
- HData——ETL 数据导入/导出工具
- ETL数据导入/导出工具 HData
- 正式发布jmyetl-1.0.2:一个表数据导入导出的ETL工具
- 数据导入导出工具
- 数据导入导出工具BCP
- TalendOpenStudio ------ 数据导入导出工具
- MongoDB数据导出导入工具
- ORACLE数据导出与导入专题(3)——使用exp/imp工具进行数据导入导出
- ETL工具kettle的使用:循环分页导入数据
- MySQL数据导入导出方法与工具
- 数据导入导出工具BCP详解
- 数据导入导出工具BCP详解
- 数据导入导出工具BCP详解
- 数据的导出和导入工具:mysqldump
- MySQL数据的导出和导入工具
- MySQL数据的导出和导入工具
- Java并发编程之volatile、synchronized、yield、join
- Hadoop Writable基本类型
- javascript的api设计原则
- LA 3177 Beijing Guards (二分+贪心)
- oracle 用impdp 导入dmp文件
- HData——ETL 数据导入/导出工具
- 总结HDFS的I/O操作
- mysql-1-mysqldump之--single-transaction
- windows 下启动 es 报 此时不应有...
- 子类默认函数的写法&菱形继承&虚继承
- 字母大小写变换【持续更新】
- JavaWeb——文件上传和下载
- Eclipse常用快捷键
- android6.0动态权限的设置