yarn的资源优化的调整参数
官网:
https://hadoop.apache.org/docs/r3.3.6/hadoop-yarn/hadoop-yarn-common/yarn-default.xml
没事多看官网哈
yarn.nodemanager.resource.memory-mb:用于设置NodeManager节点的总内存容量,单位为MB。根据集群的物理内存情况,适当调整该参数可以确保分配给Yarn的内存资源与集群实际可用内存一致。
yarn.nodemanager.resource.cpu-vcores:用于设置NodeManager节点的总虚拟核心数。与内存类似,根据集群的CPU资源情况进行调整,确保分配给Yarn的CPU资源与集群实际可用CPU核心数相匹配。
yarn.scheduler.minimum-allocation-mb:用于设置Yarn调度器的最小内存分配单位,单位为MB。这个参数可以决定Yarn对任务的最小内存需求,可以根据任务的特性和集群资源来进行调整。
yarn.scheduler.maximum-allocation-mb:用于设置Yarn调度器的最大内存分配单位,单位为MB。这个参数决定了Yarn对任务的最大内存需求限制,可以根据集群资源情况来进行适配。
yarn.scheduler.minimum-allocation-vcores:用于设置Yarn调度器的最小虚拟核心数分配单位。这个参数可以决定Yarn对任务的最小CPU需求,可以根据任务的特性和集群CPU资源来进行调整。
yarn.scheduler.maximum-allocation-vcores:用于设置Yarn调度器的最大虚拟核心数分配单位。这个参数决定了Yarn对任务的最大CPU需求限制,可以根据集群CPU资源情况来进行适配。
yarn.scheduler.capacity..maximum-allocation-mb:用于设置队列的最大内存分配量,如前面提到的。通过设置这个参数,可以对不同队列进行细粒度的内存控制