hadoop异常java heap space

来源:互联网 发布:python中的单例模式 编辑:程序博客网 时间:2024/05/18 13:10

今天,在运行MapReduce程序时出现了java heap space 异常,经过在网上浏览了一番后发现是由于JVM的最大堆的大小太小导致的。

在JVM中如果98%的时间是用于GC且可用的 Heap size 不足2%的时候将抛出此异常信息。
JVM堆的设置是指java程序运行过程中JVM可以调配使用的内存空间的设置.JVM在启动的时候会自动设置Heap size的值,其初始空间(即-Xms)是物理内存的1/64,最大空间(-Xmx)是物理内存的1/4。可以利用JVM提供的-Xmn -Xms -Xmx等选项可进行设置。

我们可以在hadoop的配置文件mapred-site.xml中进行设置,如下:

<property>
        <name>mapred.child.java.opts</name>
        <value>-Xmx2048m</value>
</property>

设置后该问题消失。


0 0