MATLAB out of memory深层次解决办法

来源:互联网 发布:阿里云网站日志在哪里 编辑:程序博客网 时间:2024/06/13 21:23
转载:file:///G:/matlab_out%20of%20memory/Matlab%20Out%20of%20memory问题总结【转】%20-%20Niya的日志%20-%20网易博客.htm



Out of memory问题总结【原创】(一)





首先,我要声明,matlab自带的Help才是最权威的Matlab学习资料,如果有时间好好学习一下或是可以高效的使用的话,一定受益匪浅!比如说像Out of Memory这个问题,最开始我都是用Help memory,几乎得不到任何信息;然后就是去网上搜索此类问题的解决方法,一般有这几种:

除了升级内存和升级64位系统外,下面几个方法也是解决之道。


1> 增加虚拟内存
2> 采用PACK (在命令行输入 pack 整理内存空间)
3> 采用3GB 开关启动系统(修改 c盘根目录 boot.ini 启动选项加上 /3G 

例如:

multi(0)disk(0)rdisk(0)partition(1)\WINDOWS="Microsoft Windows XP Professional" /noexecute=optin /fastdetect /3G
4> 优化程序,减少变量
(使用稀疏矩阵 sparse  save 保存变量 load 变量,需要时再读出来
5> 
如果必有必要,不要启动java虚拟机,采用matlab -nojvm启动
(在快捷方式属性里面的 "..../matlab.exe"
改为("...../matlab.exe" - nojvm
6> 关闭Matlab Server  
7> 使用
单精度 single 短整数替代
双精度。



现在看来这些解决方法对于我的问题来说根本就是“治标不治本”,不能解决实际问题,后来在一个师兄的提醒下Help out of memory,终于找到了解决此类问题的方法。在此感谢这位师兄啊!

重申――MatlabHelp才是Matlab的最权威的指导材料!!!

其实我的所谓原创就是对Help out of memory的一些归纳总结而已,有兴趣的话大家可以自己去看!!!


问题一:Matlab是如何存储矩阵的


Matlab中矩阵是以Block,也就是块的形式存储的。也就是说,当Matlab在为即将存储的矩阵划分块时,如果没有相应大小的连续内存,即使实际内存没有被完全使用,他还是会报告Out of Memory”。


问题二:如何高效使用Memory

由于在使用的过程中,由于存储单元的不断的被分配和清除,内存会被分割成不连续的区域,这是很容易造成Out of Memory”。


1为矩阵变量预制内存而不是动态分配
在动态分配的过程中,由于开始Matlab所用的Block随着矩阵的增大而连续的为此矩阵分配内存,但是由于Block的不连续性,很有可能最开始分配的Block不能满足存储的需要,Matlab只好移动此Block以找到更大的Block来存储,这样在移动的过程中不但占用了大量的时间,而且很有可能它找不到更大的块,导致Out of Memory。而当你为矩阵变量预制内存时,Matlab会在计算开始前一次性找到最合适的Block,此时就不用为变量连续的分配内存。


比较下面两个程序:
for k = 2:1000

x(k) = x(k-1) + 5;
end


x = zeros(1, 1000);
for k = 2:1000

x(k) = x(k-1) + 5;
end




显然,第二个更好!最好的方法是,在程序一开始就位所有大的矩阵变量预制存存储单元!

Out of memory问题总结【原创】(二)



1.尽量早的分配大的矩阵变量

Matlab使用heap method管理内存。当在Matlab heap中没有足够的内存使用时,它会向系统请求内存。但是只要内存碎片可以存下当前的变量,Matlab会重新使用内存。
比如:
a = rand(1e6,1);
b = rand(1e6,1);
使用大约15.4 MB RAM

c = rand(2.1e6,1);

  

使用近似16.4 MB RAM: 

a = rand(1e6,1);
b = rand(1e6,1);
clear
c = rand(2.1e6,1); 



使用32.4 MB RAM。因为Matlab不能使用abclear的空间,因为它们均小于2.1 MB而同时它们也很可能是不连续的。


最好的方法:
c = rand(2.1e6,1);
clear
a = rand(1e6,1);
b = rand(1e6,1);
使用16.4 MB RAM

2尽量避免产生大的瞬时变量,当它们不用的时候应该及时clear

3尽量的重复使用变量(跟不用的clear掉一个意思)

4将矩阵转化成稀疏形式

如果矩阵中有大量的0,最好存储成稀疏形式。稀疏形式的矩阵使用内存更少,执行时间更短。
例如:
1000
×1000的矩阵X,它2/3的元素为0,使用两种存储方法的比较:

Name
Size
Bytes
Class

X
1000x1000
8000000
double array

Y
1000x1000
4004000
double array (sparse)


5使用pack命令

当内存被分为很多碎片以后,其实本身可能有很大的空间,只是没有作构的连续空间即大的Block而已。如果此时Out of Memory,此时使用pack命令可以很好的解决此问题。


6如果可行的话,将一个大的矩阵划分为几个小的矩阵,这样每一次使用的内存减少。


7增大内存

0 0