我刚刚使用 Hadoop 2.2.0 设置了一个新的 Hadoop 集群,并在基于 Yarn 框架的 HBase 上运行 MapReduce 作业。

我有容器配置的问题。一般来说,我们有8个节点,其中一半是8核CPU的旧机器,一半是24核CPU的新机器。我想知道是否可以在新机器中单独配置更多容器,在旧机器中配置更少容器。实际设置时,容器数量限制为8个,即每个容器至少1个核心。尽管我在新机器上留有资源,但它没有分配给新机器中的更多容器。我们使用公平调度程序。

谢谢

有帮助吗?

解决方案

在配置文件中 yarn-site.xml, ,有一个属性名为 yarn.nodemanager.resource.cpu-vcores 它定义了节点的CPU核心。由于我对旧机器和新机器设置的该值不同,因此更多容器在新节点中运行。

我再次回答我自己的问题:)

许可以下: CC-BY-SA归因
不隶属于 StackOverflow
scroll top