jjzjj

c - Linux 有零拷贝吗?拼接或发送文件?

coder 2023-06-16 原文

当引入 splice 时,内核列表中讨论了 sendfile 是基于 splice 重新实现的。拼接 SLICE_F_MOVE 的文档指出:

Attempt to move pages instead of copying. This is only a hint to the kernel: pages may still be copied if the kernel cannot move the pages from the pipe, or if the pipe buffers don't refer to full pages. The initial implementation of this flag was buggy: therefore starting in Linux 2.6.21 it is a no-op (but is still permitted in a splice() call); in the future, a correct implementation may be restored.

那么这是否意味着 Linux 没有用于写入套接字的零拷贝方法?或者这是在某个时候修复的,多年来没有人更新文档? sendfile 或 splice 在任何最新的 3.x 内核版本中是否有零拷贝实现?

由于谷歌没有回答这个问题,我正在为下一个想知道使用 vmsplice 和 splice 或 sendfile 比普通的旧写是否有任何好处的可怜的笨蛋创建一个 stackoverflow 问题。

最佳答案

sendfile 从那以后一直是零拷贝(假设硬件允许,但通常是这种情况)。零拷贝是这个系统调用的全部意义所在。 sendfile 现在作为 splice 的包装器实现。

这表明 splice 也是零拷贝,事实确实如此。至少在理论上,至少在某些情况下。问题是弄清楚如何正确使用它,以便它可靠地工作,因此它是零拷贝的。文档……至少可以说是稀疏的。

特别是,splice 仅在页面作为“礼物”提供时才有效,即您不再拥有它们(形式上,但实际上您仍然拥有)。如果您只是将文件描述符拼接到套接字上,这不是问题,但如果您想从应用程序的地址空间或从一个管道拼接到另一个管道,这就是一个大问题。目前尚不清楚之后(以及何时)如何处理这些页面。文档声明您之后不得触摸这些页面或对它们做任何事情,永远不会,永远不会。因此,如果您按照文档的字母进行操作,则必须泄漏内存。
这显然是不正确的(不可能),但是没有好的方法知道(至少对您而言!)何时可以安全地重用或释放该内存。执行 sendfile 的内核会知道,因为一旦它收到 TCP ACK,它就知道不再需要该数据。问题是,您永远看不到 ACK。当 splice 返回时,您所知道的就是数据已被接受发送(但您不知道它是否已经发送或接收,也不知道这将在何时发生).
这意味着您需要在应用程序层以某种方式解决这个问题,要么通过手动 ACK(通过可靠的 UDP 免费提供),要么假设如果另一方发送对您的请求的答复,他们显然一定是收到了请求。

您必须管理的另一件事是有限的管道空间。默认是很小的,但是即使你加大尺寸,你也不能天真地拼接一个任意大小的文件。另一方面,sendfile 会让您这样做,这很酷。

总而言之,sendfile 很好,因为它可以正常工作,而且很好,您无需关心上述任何细节。它不是 Elixir ,但确实是一个很好的补充。
就个人而言,我会远离 splice 及其家族,直到对整个事情进行彻底检查,直到 100% 清楚你必须做什么(以及什么时候)以及你不必做什么做。

无论如何,对于大多数应用程序而言,相对于普通旧式 write 的真正有效 yield 是微不足道的。我记得几年前 Torvalds 先生的一些不太礼貌的评论(当时 BSD 有一种 write 的形式,它可以通过重新映射页面来实现零拷贝,而 Linux 没有)其中指出制作副本通常没有任何问题,但在页面上玩把戏是[这里不再重复]

关于c - Linux 有零拷贝吗?拼接或发送文件?,我们在Stack Overflow上找到一个类似的问题: https://stackoverflow.com/questions/24254098/

有关c - Linux 有零拷贝吗?拼接或发送文件?的更多相关文章

  1. ruby - 使用 RubyZip 生成 ZIP 文件时设置压缩级别 - 2

    我有一个Ruby程序,它使用rubyzip压缩XML文件的目录树。gem。我的问题是文件开始变得很重,我想提高压缩级别,因为压缩时间不是问题。我在rubyzipdocumentation中找不到一种为创建的ZIP文件指定压缩级别的方法。有人知道如何更改此设置吗?是否有另一个允许指定压缩级别的Ruby库? 最佳答案 这是我通过查看ruby​​zip内部创建的代码。level=Zlib::BEST_COMPRESSIONZip::ZipOutputStream.open(zip_file)do|zip|Dir.glob("**/*")d

  2. ruby - 其他文件中的 Rake 任务 - 2

    我试图在一个项目中使用rake,如果我把所有东西都放到Rakefile中,它会很大并且很难读取/找到东西,所以我试着将每个命名空间放在lib/rake中它自己的文件中,我添加了这个到我的rake文件的顶部:Dir['#{File.dirname(__FILE__)}/lib/rake/*.rake'].map{|f|requiref}它加载文件没问题,但没有任务。我现在只有一个.rake文件作为测试,名为“servers.rake”,它看起来像这样:namespace:serverdotask:testdoputs"test"endend所以当我运行rakeserver:testid时

  3. ruby-on-rails - 在 Rails 中将文件大小字符串转换为等效千字节 - 2

    我的目标是转换表单输入,例如“100兆字节”或“1GB”,并将其转换为我可以存储在数据库中的文件大小(以千字节为单位)。目前,我有这个:defquota_convert@regex=/([0-9]+)(.*)s/@sizes=%w{kilobytemegabytegigabyte}m=self.quota.match(@regex)if@sizes.include?m[2]eval("self.quota=#{m[1]}.#{m[2]}")endend这有效,但前提是输入是倍数(“gigabytes”,而不是“gigabyte”)并且由于使用了eval看起来疯狂不安全。所以,功能正常,

  4. ruby-on-rails - Rails 3 中的多个路由文件 - 2

    Rails2.3可以选择随时使用RouteSet#add_configuration_file添加更多路由。是否可以在Rails3项目中做同样的事情? 最佳答案 在config/application.rb中:config.paths.config.routes在Rails3.2(也可能是Rails3.1)中,使用:config.paths["config/routes"] 关于ruby-on-rails-Rails3中的多个路由文件,我们在StackOverflow上找到一个类似的问题

  5. ruby - 将差异补丁应用于字符串/文件 - 2

    对于具有离线功能的智能手机应用程序,我正在为Xml文件创建单向文本同步。我希望我的服务器将增量/差异(例如GNU差异补丁)发送到目标设备。这是计划:Time=0Server:hasversion_1ofXmlfile(~800kiB)Client:hasversion_1ofXmlfile(~800kiB)Time=1Server:hasversion_1andversion_2ofXmlfile(each~800kiB)computesdeltaoftheseversions(=patch)(~10kiB)sendspatchtoClient(~10kiBtransferred)Cl

  6. ruby - 如何将脚本文件的末尾读取为数据文件(Perl 或任何其他语言) - 2

    我正在寻找执行以下操作的正确语法(在Perl、Shell或Ruby中):#variabletoaccessthedatalinesappendedasafileEND_OF_SCRIPT_MARKERrawdatastartshereanditcontinues. 最佳答案 Perl用__DATA__做这个:#!/usr/bin/perlusestrict;usewarnings;while(){print;}__DATA__Texttoprintgoeshere 关于ruby-如何将脚

  7. ruby - 使用 Vim Rails,您可以创建一个新的迁移文件并一次性打开它吗? - 2

    使用带有Rails插件的vim,您可以创建一个迁移文件,然后一次性打开该文件吗?textmate也可以这样吗? 最佳答案 你可以使用rails.vim然后做类似的事情::Rgeneratemigratonadd_foo_to_bar插件将打开迁移生成的文件,这正是您想要的。我不能代表textmate。 关于ruby-使用VimRails,您可以创建一个新的迁移文件并一次性打开它吗?,我们在StackOverflow上找到一个类似的问题: https://sta

  8. Ruby 写入和读取对象到文件 - 2

    好的,所以我的目标是轻松地将一些数据保存到磁盘以备后用。您如何简单地写入然后读取一个对象?所以如果我有一个简单的类classCattr_accessor:a,:bdefinitialize(a,b)@a,@b=a,bendend所以如果我从中非常快地制作一个objobj=C.new("foo","bar")#justgaveitsomerandomvalues然后我可以把它变成一个kindaidstring=obj.to_s#whichreturns""我终于可以将此字符串打印到文件或其他内容中。我的问题是,我该如何再次将这个id变回一个对象?我知道我可以自己挑选信息并制作一个接受该信

  9. ruby - 如何使用 Ruby aws/s3 Gem 生成安全 URL 以从 s3 下载文件 - 2

    我正在编写一个小脚本来定位aws存储桶中的特定文件,并创建一个临时验证的url以发送给同事。(理想情况下,这将创建类似于在控制台上右键单击存储桶中的文件并复制链接地址的结果)。我研究过回形针,它似乎不符合这个标准,但我可能只是不知道它的全部功能。我尝试了以下方法:defauthenticated_url(file_name,bucket)AWS::S3::S3Object.url_for(file_name,bucket,:secure=>true,:expires=>20*60)end产生这种类型的结果:...-1.amazonaws.com/file_path/file.zip.A

  10. ruby - rspec 需要 .rspec 文件中的 spec_helper - 2

    我注意到像bundler这样的项目在每个specfile中执行requirespec_helper我还注意到rspec使用选项--require,它允许您在引导rspec时要求一个文件。您还可以将其添加到.rspec文件中,因此只要您运行不带参数的rspec就会添加它。使用上述方法有什么缺点可以解释为什么像bundler这样的项目选择在每个规范文件中都需要spec_helper吗? 最佳答案 我不在Bundler上工作,所以我不能直接谈论他们的做法。并非所有项目都checkin.rspec文件。原因是这个文件,通常按照当前的惯例,只

随机推荐