jjzjj

java - Spark : driver/worker configuration. 驱动程序是否在主节点上运行？

coder 2024-03-28 原文

我在 AWS 上启动一个 spark 集群，有一个 master 和 60 个核心:

下面是启动的命令，基本上每个核心2个executor，一共120个executor:

spark-submit --deploy-mode cluster --master yarn-cluster --driver-memory 180g --driver-cores 26 --executor-memory 90g --executor-cores 13 --num-executors 120

然而，在作业跟踪器中，只有 119 个执行程序:

我认为应该有 1 个驱动程序 + 120 个工作执行程序。但是，我看到的是119个executor，其中包括1个driver + 118个working executor。

这是否意味着我的主节点没有被使用？驱动运行在Master节点还是Core节点？我可以让驱动程序运行在主节点上，让 60 个核心托管 120 个工作执行程序吗？

谢谢!

最佳答案

通过使用集群模式，资源分配结构如下图所示。

我将尝试提供 YARN 进行的资源分配计算的说明。首先，每个核心节点的规范如下(您可以确认 here ):

  • 内存:244GB
  • 核心数/vCPU:32

这意味着您可以最大限度地运行:

  • 每个核心节点 2 个执行程序，这是根据请求的内存和核心数计算的。具体来说，available_cores/requested_cores = 32/13 = 2.46 -> 2 & available_mem/requested_mem = 244/90 = 2.71 = 2。
  • 单个驱动程序，在单个核心节点中没有任何其他执行程序。这是因为当驱动程序在核心节点中运行时，它会留下 244 - 180 = 64 GB 内存和 32 和 32-26 = 6 个核心/vCPUS，这些不足以运行单独的执行程序。

因此，从现有的 60 个核心节点池中，1 个节点用于驱动程序，剩下 59 个核心节点，它们正在运行 59*2 = 118 个执行程序。

Does that mean my Master node was not used?

如果您的意思是是否使用主节点来执行驱动程序，那么答案是否。但是，请注意，master 可能同时运行了一堆其他应用程序，这些应用程序超出了本次讨论的范围(例如 YARN 资源管理器、HDFS namenode 等)。

Is the driver running on the Master node or Core node?

后者，驱动程序在核心节点上运行(因为您使用了--deploy-mode cluster参数)。

Can I make the driver run on the Master node and let the 60 Cores hosting 120 working executors?

是的!这样做的方法是执行相同的命令，但使用--deploy-mode client(或者不指定该参数，因为在撰写本文时，它用作默认为 Spark)在主节点中。

通过这样做，资源分配将具有下图所示的结构。

请注意，Application Master 仍会消耗集群中的一些资源(“从执行程序中窃取一些资源”)。但是，AM 资源默认情况下是最少的，如 here 所示(spark.yarn .am.memory 和 spark.yarn.am.cores 选项)，所以应该不会有很大的影响。

关于java - Spark : driver/worker configuration. 驱动程序是否在主节点上运行？，我们在Stack Overflow上找到一个类似的问题： https://stackoverflow.com/questions/34930108/

configuration驱动strongcodeimagejavascalaamazon-web-servicesapache-spark

有关java - Spark : driver/worker configuration. 驱动程序是否在主节点上运行？的更多相关文章

  1. ruby - 在 Ruby 程序执行时阻止 Windows 7 PC 进入休眠状态 - 2

    我需要在客户计算机上运行Ruby应用程序。通常需要几天才能完成(复制大备份文件)。问题是如果启用sleep，它会中断应用程序。否则，计算机将持续运行数周，直到我下次访问为止。有什么方法可以防止执行期间休眠并让Windows在执行后休眠吗？欢迎任何疯狂的想法;-) 最佳答案 Here建议使用SetThreadExecutionStateWinAPI函数，使应用程序能够通知系统它正在使用中，从而防止系统在应用程序运行时进入休眠状态或关闭显示。像这样的东西:require'Win32API'ES_AWAYMODE_REQUIRED=0x0

  2. ruby-on-rails - 如何验证 update_all 是否实际在 Rails 中更新 - 2

    给定这段代码defcreate@upgrades=User.update_all(["role=?","upgraded"],:id=>params[:upgrade])redirect_toadmin_upgrades_path,:notice=>"Successfullyupgradeduser."end我如何在该操作中实际验证它们是否已保存或未重定向到适当的页面和消息？ 最佳答案 在Rails3中，update_all不返回任何有意义的信息，除了已更新的记录数(这可能取决于您的DBMS是否返回该信息)。http://ar.ru

  3. ruby - 如何指定 Rack 处理程序 - 2

    Rackup通过Rack的默认处理程序成功运行任何Rack应用程序。例如:classRackAppdefcall(environment)['200',{'Content-Type'=>'text/html'},["Helloworld"]]endendrunRackApp.new但是当最后一行更改为使用Rack的内置CGI处理程序时，rackup给出“NoMethodErrorat/undefinedmethod`call'fornil:NilClass”:Rack::Handler::CGI.runRackApp.newRack的其他内置处理程序也提出了同样的反对意见。例如Rack

  4. ruby - 在 Ruby 中编写命令行实用程序 - 2

    我想用ruby​​编写一个小的命令行实用程序并将其作为gem分发。我知道安装后，Guard、Sass和Thor等某些gem可以从命令行自行运行。为了让gem像二进制文件一样可用，我需要在我的gemspec中指定什么。 最佳答案 Gem::Specification.newdo|s|...s.executable='name_of_executable'...endhttp://docs.rubygems.org/read/chapter/20 关于ruby-在Ruby中编写命令行实用程序

  5. ruby-on-rails - Rails 应用程序之间的通信 - 2

    我构建了两个需要相互通信和发送文件的Rails应用程序。例如，一个Rails应用程序会发送请求以查看其他应用程序数据库中的表。然后另一个应用程序将呈现该表的json并将其发回。我还希望一个应用程序将存储在其公共(public)目录中的文本文件发送到另一个应用程序的公共(public)目录。我从来没有做过这样的事情，所以我什至不知道从哪里开始。任何帮助，将不胜感激。谢谢! 最佳答案 无论Rails是什么，几乎所有Web应用程序都有您的要求，大多数现代Web应用程序都需要相互通信。但是有一个小小的理解需要你坚持下去，网站不应直接访问彼此

  6. ruby - 无法运行 Rails 2.x 应用程序 - 2

    我尝试运行2.x应用程序。我使用rvm并为此应用程序设置其他版本的ruby​​:$rvmuseree-1.8.7-head我尝试运行服务器，然后出现很多错误:$script/serverNOTE:Gem.source_indexisdeprecated,useSpecification.Itwillberemovedonorafter2011-11-01.Gem.source_indexcalledfrom/Users/serg/rails_projects_terminal/work_proj/spohelp/config/../vendor/rails/railties/lib/r

  7. ruby-on-rails - Rails 应用程序中的 Rails : How are you using application_controller. rb 是新手吗？ - 2

    刚入门rails，开始慢慢理解。有人可以解释或给我一些关于在application_controller中编码的好处或时间和原因的想法吗？有哪些用例。您如何为Rails应用程序使用应用程序Controller？我不想在那里放太多代码，因为据我了解，每个请求都会调用此Controller。这是真的？ 最佳答案 ApplicationController实际上是您应用程序中的每个其他Controller都将从中继承的类(尽管这不是强制性的)。我同意不要用太多代码弄乱它并保持干净整洁的态度，尽管在某些情况下ApplicationContr

  8. ruby - 检查数组是否在增加 - 2

    这个问题在这里已经有了答案:Checktoseeifanarrayisalreadysorted?(8个答案)关闭9年前。我只是想知道是否有办法检查数组是否在增加？这是我的解决方案，但我正在寻找更漂亮的方法:n=-1@arr.flatten.each{|e|returnfalseife

  9. java - 等价于 Java 中的 Ruby Hash - 2

    我真的很习惯使用Ruby编写以下代码:my_hash={}my_hash['test']=1Java中对应的数据结构是什么？ 最佳答案 HashMapmap=newHashMap();map.put("test",1);我假设？ 关于java-等价于Java中的RubyHash，我们在StackOverflow上找到一个类似的问题： https://stackoverflow.com/questions/22737685/

  10. ruby-on-rails - 如何在我的 Rails 应用程序 View 中打印 ruby​​ 变量的内容？ - 2

    我是一个Rails初学者，但我想从我的RailsView(html.haml文件)中查看Ruby变量的内容。我试图在ruby​​中打印出变量(认为它会在终端中出现)，但没有得到任何结果。有什么建议吗？我知道Rails调试器，但更喜欢使用inspect来打印我的变量。 最佳答案 您可以在View中使用puts方法将信息输出到服务器控制台。您应该能够在View中的任何位置使用Haml执行以下操作:-puts@my_variable.inspect 关于ruby-on-rails-如何在我的R

随机推荐