Sqoop全量和增量导入数据到Oracle数据库
来源:互联网 发布:java 报表工具 开源 编辑:程序博客网 时间:2024/06/05 00:32
1,全量导入
示例:
–全量导入
sqoop import –connect jdbc:oracle:thin:@10.51.103.29:1521:DW –username FMIS9999 –password=FMIS9999 –table T_EMP –num-mappers 10 –hive-import –hive-database GRC_BIGDATA –hive-table src_t_emp –hive-overwrite
2,追加导入
示例:
–追加导入
sqoop import –connect jdbc:oracle:thin:@10.51.103.29:1521:DW –username FMIS9999 –password=FMIS9999 –table T_EMP –num-mappers 10 –hive-import –hive-database GRC_BIGDATA –hive-table src_t_emp
3,增量导入
Sqoop提供了原生增量导入的特性,包含以下三个关键参数:
1)–check-column (col) 指定一个“标识列”用于判断增量导入的数据范围,该列不能是字符型,最好是数字或者日期型
2)–incremental (mode) 指定增量模式,包含“追加模式” append 和“最后修改模式” lastmodified
3)–last-value (value) 指定“标志列”上次导入的上界。
如果“标识列”是最后修改时间,则–last-value为上次执行导入脚本的时间
–增量导入 append模式示例:
sqoop import –connect jdbc:oracle:thin:@10.51.103.29:1521:DW –username FMIS9999 –password=FMIS9999 –table T_EMP –num-mappers 10 –hive-import –hive-database GRC_BIGDATA –hive-table src_t_emp –incremental append –check-column ID –last-value 3
–增量导入 lastmodified模式示例:
sqoop import –connect jdbc:oracle:thin:@10.51.103.29:1521:DW –username FMIS9999 –password=FMIS9999 –table T_EMP –num-mappers 10 –hive-import –hive-database GRC_BIGDATA –hive-table src_t_emp –incremental lastmodified –check-column LASTMODIFIED –last-value –last-value ‘2015-04-14 13:00:00’
- Sqoop全量和增量导入数据到Oracle数据库
- solr 从数据库导入数据,全量索引和增量索引
- 转:solr 从数据库导入数据,全量索引和增量索引(实例&配置&原理)
- solr 从数据库导入数据,全量索引和增量索引
- solr 从数据库导入数据,全量索引和增量索引
- 利用SQOOP将数据从数据库导入到HDFS(并行导入,增量导入)
- Sqoop数据增量导入
- solr全量导入/增量导入mysql的数据
- Sqoop学习笔记 --- 增量导入数据到HBase
- 增量和全量
- Solr 5,5从Mysql全量、增量导入数据
- solr6.4.2全量与增量导入数据
- Solr 5,5从Mysql全量、增量导入数据
- Sqoop 连接Oracle导入数据到hive
- 通过sqoop增量传送oracle数据到hive
- Solr:数据导入(包括关系数据库的全导入和增量导入)
- 使用Logstash-input-jdbc同步数据库中的数据(全量 和 增量)
- Sqoop数据迁移,工作机制,sqoop安装(配置),Sqoop的数据导入,导入表数据到HDFS,导入关系表到HIVE,导入到HDFS指定目录,导入表数据子集,按需导入,增量导入,sqoop数据导出
- ubuntu compile surfGPU
- 计算机地址分配
- 第一章:hadoop1-hdfs完全分布式模式实验
- xUtils框架的介绍
- 黑马程序员——IO流02
- Sqoop全量和增量导入数据到Oracle数据库
- Android中TabActivity使用范例
- SecureCRT
- 拍照打开本地图库裁剪加上传
- 第二章:hadoop2+HA+Zookeeper QJM集群搭建实验
- 文章标题
- Android min, max, targetSDK详解
- java--三目运算符 类型自动提升
- 数据结构、算法与应用 (C++描述) 第二版 1.10