Kettle循环抽取数据做增量

数据量数以千万计时，初次一次性抽取历史数据容易出现卡死，针对这种情况可以使用循环年份抽取，并且加入增量程序使得后续抽取增量化！

整体流程：

1、获取年份极值（获取历史有数据的年份最大最小值）

获取日期：

select min(to_char(jyrq,'yyyy')) || '~' || max(to_char(jyrq,'yyyy')) YearRange from veh_is_warning where to_char(jyrq,'yyyy')>=?

2、获取时间范围（通过切分获得历史年份最大最小值）

var prevRow=previous_result.getRows();var listv=previous_result.getRows().toString().split("~");//切分为数组if (prevRow == null && (prevRow.size()==0)){false;  }else{    parent_job.setVariable("startTime",listv[0].substr(2,4));//最小年份    parent_job.setVariable("endTime", listv[1].substr(0,4));//最大年份     true;}

3、检测字段值（从最小年份开始循环抽取数据）

4、获取目标表上次同步最大时间（设置目标库上次同步完的最大时间）

上次同步最大月份：

select nvl(to_char(max(tjrq),'yyyymmdd'),'19700101') maxUpdateRq from MON_FACT_UNUSUAL_WARN where tjrq<=trunc(sysdate-1)

5、检验异常预警情况统计（数据条件控制）

数据来源veh_is_warning：

select sum(1) yjs,t.jyrq tjrq,nvl(t.jcxdh,'NA') jcxdh,nvl(t.jyjgbh,'NA') jyjgbh,nvl(t.glbm,'NA') glbm,nvl(t.fzjg,'NA') fzjg, nvl(t.yjlx,'NA') yjlx,--t.hpzl,t.hphm,d.hphm,nvl(d.cllx,'NA') cllxfrom veh_is_warning t left join vehicle d on t.hphm=d.hphmwhere t.yjzt=1and to_char(t.jyrq,'yyyy')='${startTime}'and to_char(t.jyrq,'yyyymmdd')>='${P_MAXUPDATERQ}'group by t.jyrq,t.jcxdh,t.jyjgbh,t.glbm,t.fzjg, t.yjlx,--t.hpzl,t.hphm,d.hphm,d.cllx

6、控制循环次数

var size = new Number(parent_job.getVariable("endTime"));var i = new Number(parent_job.getVariable("startTime"))+1;  if(i<=size){parent_job.setVariable("startTime", i);}else{ parent_job.setVariable("startTime", 1);//控制退出parent_job.setVariable("endTime", 0);//控制退出} true;