jjzjj

Java TCP/IP 套接字延迟 - 停留在 50 μs(微秒)? (用于 Java IPC)

coder 2023-09-17 原文

我们一直在分析和分析我们的应用程序,以尽可能减少延迟。我们的应用程序由 3 个独立的 Java 进程组成,它们都在同一台服务器上运行,它们通过 TCP/IP 套接字相互传递消息。

我们已将第一个组件的处理时间减少到 25 微秒,但我们发现 TCP/IP 套接字写入(在本地主机上)到下一个组件总是需要大约 50 微秒。我们看到了另一种异常行为,因为接受连接的组件可以更快地写入(即 < 50="" μs)。现在,除套接字通信外,所有组件的运行时间都小于="" 100="">

不是 TCP/IP 专家,我不知道可以做些什么来加快速度。 Unix 域套接字会更快吗?内存映射文件?还有哪些其他机制可能是将数据从一个 Java 进程传递到另一个进程的更快方法?

2011 年 6 月 21 日更新 我们创建了 2 个基准应用程序,一个用 Java,一个用 C++ 来更严格地对 TCP/IP 进行基准测试并进行比较。 Java 应用程序使用 NIO(阻塞模式),而 C++ 使用 Boost ASIO tcp 库。结果大致相同,C++ 应用程序比 Java 快大约 4 微秒(但在其中一项测试中,Java 击败了 C++)。此外,这两个版本在每条消息的时间上都表现出很大的差异。

我认为我们同意共享内存实现速度最快的基本结论。 (虽然我们也想评估 Informatica 产品,但前提是它符合预算。)

最佳答案

如果使用 native 库 via JNI是一个选项,我会考虑照常实现 IPC(搜索 IPC、mmap、shm_open 等)。

使用 JNI 会带来很多开销,但至少比使用套接字或管道执行任何操作所需的完整系统调用要少一些。通过 JNI 使用轮询共享内存 IPC 实现,您可能能够将单向延迟降低到大约 3 微秒。 (确保使用 -Xcomp JVM 选项或调整编译阈值;否则您的前 10,000 个样本会很糟糕。这会产生很大的不同。)

我有点惊讶 TCP 套接字写入需要 50 微秒 - 大多数操作系统在某种程度上优化了 TCP 环回。 Solaris 实际上用一个叫做 TCP Fusion 的东西做得很好。 .如果对环回通信进行了任何优化,那通常是针对 TCP。 UDP 往往会被忽视——所以在这种情况下我不会为它烦恼。我也不会为管道(标准输入/标准输出或您自己的命名管道等)而烦恼,因为它们会更慢。

通常,您看到的很多延迟可能来自信号 - 在套接字的情况下等待 IO 选择器(如 select()),或等待信号量,或等待某些东西。如果你想要尽可能低的延迟,你将不得不燃烧一个核心,坐在一个紧密的循环轮询中以获取新数据。

当然,总有 commercial off-the-shelf路线——我碰巧知道肯定会很快解决你的问题——但当然它确实要花钱。为了全面披露:我确实为 Informatica 工作,开发他们的低延迟消息传递软件。 (作为一名工程师,我的诚实意见是它是非常棒的软件 - 当然值得为这个项目检查。)

关于Java TCP/IP 套接字延迟 - 停留在 50 μs(微秒)? (用于 Java IPC),我们在Stack Overflow上找到一个类似的问题: https://stackoverflow.com/questions/5943365/

有关Java TCP/IP 套接字延迟 - 停留在 50 μs(微秒)? (用于 Java IPC)的更多相关文章

  1. ruby - 从 Ruby 中的主机名获取 IP 地址 - 2

    我有一个存储主机名的Ruby数组server_names。如果我打印出来,它看起来像这样:["hostname.abc.com","hostname2.abc.com","hostname3.abc.com"]相当标准。我想要做的是获取这些服务器的IP(可能将它们存储在另一个变量中)。看起来IPSocket类可以做到这一点,但我不确定如何使用IPSocket类遍历它。如果它只是尝试像这样打印出IP:server_names.eachdo|name|IPSocket::getaddress(name)pnameend它提示我没有提供服务器名称。这是语法问题还是我没有正确使用类?输出:ge

  2. 网络编程套接字 - 2

    网络编程套接字网络编程基础知识理解源`IP`地址和目的`IP`地址理解源MAC地址和目的MAC地址认识端口号理解端口号和进程ID理解源端口号和目的端口号认识`TCP`协议认识`UDP`协议网络字节序socket编程接口`sockaddr``UDP`网络程序服务器端代码逻辑:需要用到的接口服务器端代码`udp`客户端代码逻辑`udp`客户端代码`TCP`网络程序服务器代码逻辑多个版本服务器单进程版本多进程版本多线程版本线程池版本服务器端代码客户端代码逻辑客户端代码TCP协议通讯流程TCP协议的客户端/服务器程序流程三次握手(建立连接)数据传输四次挥手(断开连接)TCP和UDP对比网络编程基础知识

  3. ruby - 是否可以在不实际发送或读取数据的情况下查明 ruby​​ 套接字是否处于 ESTABLISHED 或 CLOSE_WAIT 状态? - 2

    s=Socket.new(Socket::AF_INET,Socket::SOCK_STREAM,0)s.connect(Socket.pack_sockaddr_in('port','hostname'))ssl=OpenSSL::SSL::SSLSocket.new(s,sslcert)ssl.connect从这里开始,如果ssl连接和底层套接字仍然是ESTABLISHED,或者它是否在默认值7200之后进入CLOSE_WAIT,我想检查一个线程几秒钟甚至更糟的是在实际上不需要.write()或.read()的情况下关闭。是用select()、IO.select()还是其他方法完成

  4. ruby-on-rails - Ruby 的 'open_uri' 是否在读取或失败后可靠地关闭套接字? - 2

    一段时间以来,我一直在使用open_uri下拉ftp路径作为数据源,但突然发现我几乎连续不断地收到“530抱歉,允许的最大客户端数(95)已经连接。”我不确定我的代码是否有问题,或者是否是其他人在访问服务器,不幸的是,我无法真正确定谁有问题。本质上,我正在读取FTPURI:defself.read_uri(uri)beginuri=open(uri).readuri=="Error"?nil:urirescueOpenURI::HTTPErrornilendend我猜我需要在这里添加一些额外的错误处理代码...我想确保我采取一切预防措施来关闭所有连接,这样我的连接就不是问题所在,但是我

  5. ruby - Faye WebSocket,关闭处理程序被触发后重新连接到套接字 - 2

    我有一个super简单的脚本,它几乎包含了FayeWebSocketGitHub页面上用于处理关闭连接的内容:ws=Faye::WebSocket::Client.new(url,nil,:headers=>headers)ws.on:opendo|event|p[:open]#sendpingcommand#sendtestcommand#ws.send({command:'test'}.to_json)endws.on:messagedo|event|#hereistheentrypointfordatacomingfromtheserver.pJSON.parse(event.d

  6. ruby - 在 TCPServer (Ruby) 中,我如何从客户端获取 IP/MAC? - 2

    我想在Ruby的TCPServer中获取客户端的IP地址。以及(如果可能的话)MAC地址。例如,Ruby中的时间服务器,请参阅评论。tcpserver=TCPServer.new("",80)iftcpserverputs"Listening"loopdosocket=tcpserver.acceptifsocketThread.newdoputs"Connectedfrom"+#HERE!HowcanigettheIPAddressfromtheclient?socket.write(Time.now.to_s)socket.closeendendendend非常感谢!

  7. ruby - 使用 ruby​​ 进行套接字编程是个好主意吗? - 2

    我选择的语言是Ruby,但因为Twitter,我知道Ruby不能处理很多请求。将它用于套接字开发是个好主意吗?或者我应该像Twitter开发人员那样使用像erlang或haskell或scala这样的函数式语言吗? 最佳答案 我工作的公司使用Ruby作为我们的网站。到目前为止,我们已经处理了超过34,000,000,000次点击。我们每天处理大约10,000,000次点击没有问题。每天的点击量峰值已超过40,000,000次。可扩展性取决于很多因素。例如,与读取相比,我们的数据库执行的写入比例高得不成比例。虽然大多数网站执行大约90

  8. ruby - 重新连接 tcpsocket(或如何检测已关闭的套接字) - 2

    我有一个连接到服务器的ruby​​tcpsocket客户端。在发送数据之前如何检查套接字是否已连接?我是否尝试“拯救”断开连接的tcpsocket,重新连接然后重新发送?如果是这样,有没有人有一个简单的代码示例,因为我不知道从哪里开始:(我很自豪我设法在rails中获得了一个持久连接的客户端tcpsocket。然后服务器决定杀死客户端,一切都崩溃了;)编辑我已经使用此代码解决了一些问题-如果未连接,它将尝试重新连接,但如果服务器已关闭则不会处理这种情况(它将继续重试)。这是正确方法的开始吗?谢谢defself.write(data)begin@@my_connection.write(

  9. ruby-on-rails - Rails 是否支持监听 UDP 套接字的简洁方式? - 2

    在Rails中,什么是集成更新模型某些元素的UDP监听过程的最佳方式(特别是它将向其中一个表添加行)。简单的答案似乎是在同一个进程中使用UDP套接字对象启动一个线程,但我什至不清楚我应该在哪里做适合Rails方式的事情。有没有一种巧妙的方法来开始收听UDP?具体来说,我希望能够编写一个UDPController并在每个数据报消息上调用一个特定的方法。理想情况下,我希望避免在UDP上使用HTTP(因为它会浪费一些在这种情况下非常宝贵的空间),但我完全控制消息格式,因此我可以为Rails提供它需要的任何信息。 最佳答案 Rails是一个

  10. ruby - 如何在 Ruby 中创建双向 SSL 套接字 - 2

    我正在构建一个连接到服务器并等待数据的客户端Ruby库,但也允许用户通过调用方法发送数据。我使用的机制是有一个初始化套接字对的类,如下所示:definitialize@pipe_r,@pipe_w=Socket.pair(:UNIX,:STREAM,0)end我允许开发人员调用以将数据发送到服务器的方法如下所示:defsend(data)@pipe_w.write(data)@pipe_w.flushend然后我在一个单独的线程中有一个循环,我从连接到服务器的socket和@pipe_r中选择:defsocket_loopThread.newdosocket=TCPSocket.new

随机推荐