Hadoop（37）：Hadoop调优之Yarn生产经验

目录

0. 相关文章链接

1. 常用的调优参数

2. 调度器的使用

0. 相关文章链接

  Hadoop文章汇总

1. 常用的调优参数

1）Resourcemanager相关

• yarn.resourcemanager.scheduler.client.thread-count    ResourceManager处理调度器请求的线程数量
• yarn.resourcemanager.scheduler.class    配置调度器

2）Nodemanager相关

• yarn.nodemanager.resource.memory-mb                  NodeManager使用内存数
• yarn.nodemanager.resource.system-reserved-memory-mb  NodeManager为系统保留多少内存，和上一个参数二者取一即可
• yarn.nodemanager.resource.cpu-vcores    NodeManager使用CPU核数
• yarn.nodemanager.resource.count-logical-processors-as-cores    是否将虚拟核数当作CPU核数
• yarn.nodemanager.resource.pcores-vcores-multiplier    虚拟核数和物理核数乘数，例如：4核8线程，该参数就应设为2
• yarn.nodemanager.resource.detect-hardware-capabilities    是否让yarn自己检测硬件进行配置
• yarn.nodemanager.pmem-check-enabled    是否开启物理内存检查限制container
• yarn.nodemanager.vmem-check-enabled    是否开启虚拟内存检查限制container
• yarn.nodemanager.vmem-pmem-ratio        虚拟内存物理内存比例

3）Container容器相关

• yarn.scheduler.minimum-allocation-mb         容器最小内存
• yarn.scheduler.maximum-allocation-mb         容器最大内存
• yarn.scheduler.minimum-allocation-vcores     容器最小核数
• yarn.scheduler.maximum-allocation-vcores     容器最大核数

2. 调度器的使用

在Yarn中调优还可以对调度器进行调优，关于调度器可以参考博主的另2篇博文：

• Hadoop（26）：Yarn中容量调度器多队列提交
• Hadoop（27）：Yarn中公平调度器多队列提交

注：其他Hadoop相关系列文章链接由此进 -> Hadoop文章汇总