文章目录
一. 问题描述
在hadoop3.0.3集群上执行hive3.1.2的任务，任务提交时报如下错误：
上述日志大致描述了：
二. 问题分析与解决
报错的原因是：申请的物理内存比container中物理内存大，导致任务无法运行。那为什么超预算申请？这是我们需要探索的问题。
1. container内存监控
每一个yarn的节点都会运行一个nodemanager，nodemanager会监控container的运行，其中nodemanager会监控container的内存使用率。具体地，nodemanager会定期（yarn.nodemanager.container-monitor.interval-ms 默认三秒）监控container，它会计算进程树（每一个container所有的子进程），检查每一个进程文件/proc/<PID>/stat（PID：container的pid），并解析物理内存和虚拟内存。
1.1. 虚拟内存判断
如果启用虚拟内存检查（默认为 true，yarn.nodemanager.vmem-check-enabled），则 YARN 会判断container现在所申请的虚拟内存是否小于允许的最大虚拟内存
而最大的虚拟内存由yarn.nodemanager.vmem-pmem-ratio（默认为 2.1）计算得出。
1.2. 物理内存判断
如果启用物理内存检查（默认为 true，yarn.nodemanager.pmem-check-enabled），则 YARN 会判断container现在所申请的物理内存是否小于允许的最大物理内存
综上所述：
知道了报错的原因我们就可以针对性的配置mapreduce相关配置，接着往下看。
2. 正确配置mapReduce内存
2.1. 配置map和reduce进程的物理内存：
假如map限制为2GB、reduce限制为4GB，且设置为默认值，则可以在mapred-site.xml中配置：
<property>
<name>mapreduce.map.memory.mb</name>
<value>2048</value>
</property>
<property>
<name>mapreduce.reduce.memory.mb</name>
<value>4096</value>
</property>
而上述的配置必须在container允许的最小和最大内存范围内（在yarn-site.xml中分别检查yarn.scheduler.maximum-allocation-mb和yarn.scheduler.minimum-allocation-mb属性）。
<property>
<name>yarn.scheduler.minimum-allocation-mb</name>
<value>1024</value>
</property>
<property>
<name>yarn.scheduler.maximum-allocation-mb</name>
<value>8196</value>
</property>
2.2. Map 和Reduce 进程的JVM 堆大小
这些大小需要小于您在上一节中配置的物理内存。一般来说，它们应该是 YARN 物理内存设置大小的 80%。采用 2GB 和 4GB 物理内存限制并乘以 0.8 来得出 Java 堆大小。
<property>
<name>mapreduce.map.java.opts</name>
<value>-Xmx1638m</value>
</property>
<property>
<name>mapreduce.reduce.java.opts</name>
<value>-Xmx3278m</value>
</property>
3. 小结
如果说配置之后还是报开头的错误，说明物理内存配置还是小不足以加载mr程序，接着申请了大于2.1比例的虚拟内存，这样任务还是启动不了。
这时可以调大yarn.nodemanager.vmem-pmem-ratio比例，或者进一步调大物理内存。2.1是yarn推荐的比例（ing），这里建议调整物理内存。
如果是少数任务需要特定调整，则我们可以在任务启动时，根据实际情况配置，动态地传递以下参数，来覆盖不适合此任务的默认配置。
参考：
http://grepalex.com/2016/12/07/mapreduce-yarn-memory/