我的任务是查看我开发的算法是否可以使用 GPU 而非 CPU 上的计算运行得更快。我是加速器计算的新手,有人给我一本我已经通读过的书“C++ AMP”,我认为我对它的理解相当好(我过去用 C 和 C++ 编写代码,但现在主要是 C#)。
但是,在实际应用中,我似乎就是不明白。所以,如果可以的话,请帮助我。
假设我有一项任务是计算一些复杂的函数,该函数需要一个巨大的矩阵输入(如 50000 x 50000)和一些其他数据并输出相同大小的矩阵。整个矩阵的总计算需要几个小时。
在 CPU 上,我只是将任务分成几个部分(部分数量大约为 100 个)并使用 Parralel.For 或我自己编写的简单任务管理循环来执行它们。基本上,保持几个线程运行(线程数=核心数),当线程完成时开始新的部分,直到所有部分都完成。而且效果很好!
但是,在 GPU 上,我不能使用相同的方法,这不仅是因为内存限制(没关系,可以分成几个部分),而且因为如果某些东西运行超过 2 秒,它就会被视为“超时” GPU 被重置!因此,我必须确保我计算的每个部分的运行时间都少于 2 秒。
但这不是每个任务(例如,将一个小时的工作分成 60 个任务,每个任务 1 秒),这很容易,这就是每组任务,因为无论我选择哪种队列模式(立即或自动) ,如果我运行(通过 parralel_for_each)任何总执行时间超过 2 秒的东西,GPU 将被重置。
不仅如此,如果我的 CPU 程序占用了所有 CPU 资源,只要它保持在较低的优先级,UI 就会保持交互 - 系统是响应式的,但是,当在 GPU 上执行代码时,屏幕似乎被卡住直到执行完毕!
那么,我该怎么办?在本书的演示中(N 体问题),它表明它应该像 100 倍一样有效(多核计算给出 2 gflops,或者 w/e 数量的触发器,而放大器给出 200 gflops),但是在实际应用中,我只是不知道该怎么做!
我是否必须将我的大任务分成数十亿个部分,例如,分成多个部分,每个部分需要 10 毫秒来执行并在 parralel_for_each 中一次运行 100 个部分?
还是我只是做错了,我只是没有找到更好的解决方案?
请帮忙!
最佳答案
TDR(您看到的 2 秒超时)是使用在渲染显示和执行计算工作之间共享的资源的现实。操作系统通过强制超时保护您的应用程序不会完全锁定显示。这也会影响尝试渲染到屏幕的应用程序。将您的 AMP 代码移至单独的 CPU 线程不会有帮助,这会释放 CPU 上的 UI 线程,但渲染仍会在 GPU 上被阻塞。
当您在低功率系统上将 N 设置得非常大时,您实际上可以在 n 体示例中看到这种行为。 N的最大值实际上在应用程序中是有限制的,以防止您在典型场景中遇到此类问题。
您实际上走在正确的轨道上。如果你想达到特定的帧速率,你确实需要将你的工作分解成适合 sub 2s block 或更小块的 block 。您还应该考虑您的工作是如何排队的。请记住,所有 AMP 工作都是排队的,在自动模式下您无法控制它何时运行。使用立即模式是更好地控制命令批处理方式的方法。
注意:TDR 在专用计算 GPU 硬件(如 Tesla)上不是问题,如果底层 GPU 支持,Windows 8 在处理 TDR 超时限制时提供了更大的灵 active 。
关于c++ - 对如何在 C++ AMP 上执行大任务一无所知,我们在Stack Overflow上找到一个类似的问题: https://stackoverflow.com/questions/19383788/
出于纯粹的兴趣,我很好奇如何按顺序创建PI,而不是在过程结果之后生成数字,而是让数字在过程本身生成时显示。如果是这种情况,那么数字可以自行产生,我可以对以前看到的数字实现垃圾收集,从而创建一个无限系列。结果只是在Pi系列之后每秒生成一个数字。这是我通过互联网筛选的结果:这是流行的计算机友好算法,类机器算法:defarccot(x,unity)xpow=unity/xn=1sign=1sum=0loopdoterm=xpow/nbreakifterm==0sum+=sign*(xpow/n)xpow/=x*xn+=2sign=-signendsumenddefcalc_pi(digits
我正在尝试测试是否存在表单。我是Rails新手。我的new.html.erb_spec.rb文件的内容是:require'spec_helper'describe"messages/new.html.erb"doit"shouldrendertheform"dorender'/messages/new.html.erb'reponse.shouldhave_form_putting_to(@message)with_submit_buttonendendView本身,new.html.erb,有代码:当我运行rspec时,它失败了:1)messages/new.html.erbshou
我在从html页面生成PDF时遇到问题。我正在使用PDFkit。在安装它的过程中,我注意到我需要wkhtmltopdf。所以我也安装了它。我做了PDFkit的文档所说的一切......现在我在尝试加载PDF时遇到了这个错误。这里是错误:commandfailed:"/usr/local/bin/wkhtmltopdf""--margin-right""0.75in""--page-size""Letter""--margin-top""0.75in""--margin-bottom""0.75in""--encoding""UTF-8""--margin-left""0.75in""-
我在使用omniauth/openid时遇到了一些麻烦。在尝试进行身份验证时,我在日志中发现了这一点:OpenID::FetchingError:Errorfetchinghttps://www.google.com/accounts/o8/.well-known/host-meta?hd=profiles.google.com%2Fmy_username:undefinedmethod`io'fornil:NilClass重要的是undefinedmethodio'fornil:NilClass来自openid/fetchers.rb,在下面的代码片段中:moduleNetclass
我在我的项目目录中完成了compasscreate.和compassinitrails。几个问题:我已将我的.sass文件放在public/stylesheets中。这是放置它们的正确位置吗?当我运行compasswatch时,它不会自动编译这些.sass文件。我必须手动指定文件:compasswatchpublic/stylesheets/myfile.sass等。如何让它自动运行?文件ie.css、print.css和screen.css已放在stylesheets/compiled。如何在编译后不让它们重新出现的情况下删除它们?我自己编译的.sass文件编译成compiled/t
如何在buildr项目中使用Ruby?我在很多不同的项目中使用过Ruby、JRuby、Java和Clojure。我目前正在使用我的标准Ruby开发一个模拟应用程序,我想尝试使用Clojure后端(我确实喜欢功能代码)以及JRubygui和测试套件。我还可以看到在未来的不同项目中使用Scala作为后端。我想我要为我的项目尝试一下buildr(http://buildr.apache.org/),但我注意到buildr似乎没有设置为在项目中使用JRuby代码本身!这看起来有点傻,因为该工具旨在统一通用的JVM语言并且是在ruby中构建的。除了将输出的jar包含在一个独特的、仅限ruby
我正在使用的第三方API的文档状态:"[O]urAPIonlyacceptspaddedBase64encodedstrings."什么是“填充的Base64编码字符串”以及如何在Ruby中生成它们。下面的代码是我第一次尝试创建转换为Base64的JSON格式数据。xa=Base64.encode64(a.to_json) 最佳答案 他们说的padding其实就是Base64本身的一部分。它是末尾的“=”和“==”。Base64将3个字节的数据包编码为4个编码字符。所以如果你的输入数据有长度n和n%3=1=>"=="末尾用于填充n%
我有一个对象has_many应呈现为xml的子对象。这不是问题。我的问题是我创建了一个Hash包含此数据,就像解析器需要它一样。但是rails自动将整个文件包含在.........我需要摆脱type="array"和我该如何处理?我没有在文档中找到任何内容。 最佳答案 我遇到了同样的问题;这是我的XML:我在用这个:entries.to_xml将散列数据转换为XML,但这会将条目的数据包装到中所以我修改了:entries.to_xml(root:"Contacts")但这仍然将转换后的XML包装在“联系人”中,将我的XML代码修改为
为了将Cucumber用于命令行脚本,我按照提供的说明安装了arubagem。它在我的Gemfile中,我可以验证是否安装了正确的版本并且我已经包含了require'aruba/cucumber'在'features/env.rb'中为了确保它能正常工作,我写了以下场景:@announceScenario:Testingcucumber/arubaGivenablankslateThentheoutputfrom"ls-la"shouldcontain"drw"假设事情应该失败。它确实失败了,但失败的原因是错误的:@announceScenario:Testingcucumber/ar
我在我的项目中添加了一个系统来重置用户密码并通过电子邮件将密码发送给他,以防他忘记密码。昨天它运行良好(当我实现它时)。当我今天尝试启动服务器时,出现以下错误。=>BootingWEBrick=>Rails3.2.1applicationstartingindevelopmentonhttp://0.0.0.0:3000=>Callwith-dtodetach=>Ctrl-CtoshutdownserverExiting/Users/vinayshenoy/.rvm/gems/ruby-1.9.3-p0/gems/actionmailer-3.2.1/lib/action_mailer