kettle性能优化

来源:互联网 发布:软考网络规划设计师 编辑:程序博客网 时间:2024/06/08 04:03

参考:

http://blog.csdn.net/calmreason/article/details/49930479

http://blog.csdn.net/xpliruizhi123/article/details/54580850

(1)调优的关键 rowset

Rowset是两个步骤之间的缓存(大小可以自己设置);

Rowset值的设置:编辑》设置》杂项》记录集合里的记录数》10000,表示缓存里的最大记录数就是10000


(2)SPOON 启动时候内存

SPOON 启动时候内存较小,在spoon.bat这个启动文件中,配置的有JVM的内存XMX,("%PENTAHO_DI_JAVA_OPTIONS%"=="" set PENTAHO_DI_JAVA_OPTIONS="-          Xms8192m" "-Xmx8192m" "-XX:MaxPermSize=4096m"),默认这个是256M,512M  256M, 

其中Xms是指JVM初始分配的堆栈的内存,

Xmx是指JVM分配的堆栈的内存(JAVA代码能涉及到的存储数据变量的内存)最大是多少,所以XMS必须要<= XMX,

XX:MaxPermSize,是指JVM给自己分配的非堆栈内存(供虚拟机程序自己开销)

(3)增加复制数,即,增加多线程

(4)合理增加索引

(5)集群

原创粉丝点击