hive报错:FAILED: Execution Error, return code 2 from org.apache.hadoop.hive.ql.exec.tez.TezTask

最新推荐文章于 2024-09-23 17:07:53 发布

原创最新推荐文章于 2024-09-23 17:07:53 发布 · 1.1k 阅读

1 ·

CC 4.0 BY-SA版权

文章标签：

#hadoop #hive #apache

文章讲述了在安装tez后，Hive遇到错误，尤其是复杂查询失败，原因是NodeManager的虚拟内存限制。解决方法是通过修改yarn-site.xml中的yarn.nodemanager.vmem-check-enabled和yarn.nodemanager.vmem-pmem-ratio配置。

摘要生成于 C知道，由 DeepSeek-R1 满血版支持，前往体验 >

安装tez后hive报错，简单hql语句可以执行，复杂一点的hql语句就报错，日志如下：

Application application_1691670956889_0002 failed 2 times due to AM Container for appattempt_1691670956889_0002_000002 exited with exitCode: -103
Failing this attempt.Diagnostics: [2023-08-10 20:36:39.155]Container [pid=2739,containerID=container_1691670956889_0002_02_000001] is running beyond virtual memory limits. Current usage: 203.1 MB of 1 GB physical memory used; 2.6 GB of 2.1 GB virtual memory used. Killing container.
Dump of the process-tree for container_1691670956889_0002_02_000001 :

FAILED: Execution Error, return code 2 from org.apache.hadoop.hive.ql.exec.tez.TezTask. Application application_1691668535430_0007 failed 2 times due to AM Container for appattempt_1691668535430_0007_000002 exited with exitCode: -103

解决方法：

在Hadoop的配置文件yarn-site.xml中加入以下内容并发送到其他主机:

<property>
    <name>yarn.nodemanager.vmem-check-enabled</name>
    <value>false</value>
</property>
<property>
   <name>yarn.nodemanager.vmem-pmem-ratio</name>
    <value>5</value>
</property>

yarn.nodemanager.vmem-check-enabled设置value为false表示禁用虚拟内存检查。

yarn.nodemanager.vmem-pmem-ratio设置value为5表示虚拟内存是物理内存的5倍。

这些参数配置可以用于控制NodeManager组件的行为，例如限制资源使用、调整内存分配等。