在对低延迟网络进行一些基本的谷歌搜索之后,我得出了以下列表,其中列出了程序员和系统设计人员在着手使用低延迟网络时应该考虑的事项:
硬件、系统和协议(protocol)的设计必须一起考虑
使用 UDP 而不是 TCP 开发协议(protocol),并在应用层实现简单的 ack-nak、重发逻辑
减少在线下使用和打包数据的进程或线程的上下文切换次数(最好为零)
使用操作系统的最佳选择器(select、kqueue、epoll 等)
使用具有大量板载缓冲区 (fifo) 的优质 NIC 和交换机
使用多个 NIC,专门用于下游和上游数据流
减少其他设备或软件生成的 IRQ 的数量(简而言之,如果不需要则删除它们)
减少互斥锁和条件的使用。而是尽可能使用无锁编程技术。利用架构的 CAS 功能。 (无锁容器)
考虑单线程而不是多线程设计 - 上下文切换非常昂贵。
了解并正确使用架构的缓存系统(L1/L2、RAM 等)
更愿意完全控制内存管理,而不是委托(delegate)给垃圾收集器
使用质量好的线缆,线缆尽量短,减少缠绕和 curl 的次数
我的问题:我想知道其他 SOer 认为在着手低延迟网络时还有哪些重要的事情。
请随意批评以上任何一点
最佳答案
电缆质量通常有点像转移注意力。我会考虑更多关于连接网络分析器以查看您是否获得足够的重新传输来关心。如果你得到很多,请尝试隔离它们发生的位置,并更换导致问题的电缆。如果您没有收到导致重新传输的错误,则电缆(实际上)对延迟没有影响。
NIC 和(尤其是)交换机上的大型缓冲区本身不会减少延迟。事实上,要真正最大限度地减少延迟,您通常希望尽可能使用最小 缓冲区,而不是更大的缓冲区。位于缓冲区中而不是立即处理的数据会增加延迟。说实话,这很少值得担心,但仍然如此。如果你真的想要最小化延迟(并且不太关心带宽)你最好使用集线器而不是交换机(有点难以找到,但绝对低延迟只要网络拥塞足够低)。
多个 NIC 可以极大地提高带宽,但它们对延迟的影响通常非常小。
编辑:不过,我的主要建议是了解规模。将网络电缆减少一英尺可以节省大约一纳秒 - 与通过几条汇编语言指令加快数据包处理的一般顺序相同。
底线:与任何其他优化一样,要取得很大进展,您需要先测量出现延迟的位置,然后才能采取很多措施来减少延迟。在大多数情况下,减少电线长度(举个例子)不会引起足够的注意,仅仅是因为它起步很快。如果某件事开始需要 10 微秒,那么您无法将其加速超过 10 微秒,因此除非您的事情快到 10 微秒占您时间的很大一部分,否则不值得攻击。
关于java - 低延迟网络技术和银弹,我们在Stack Overflow上找到一个类似的问题: https://stackoverflow.com/questions/6065262/
我真的很习惯使用Ruby编写以下代码:my_hash={}my_hash['test']=1Java中对应的数据结构是什么? 最佳答案 HashMapmap=newHashMap();map.put("test",1);我假设? 关于java-等价于Java中的RubyHash,我们在StackOverflow上找到一个类似的问题: https://stackoverflow.com/questions/22737685/
我想在Ruby中创建一个用于开发目的的极其简单的Web服务器(不,不想使用现成的解决方案)。代码如下:#!/usr/bin/rubyrequire'socket'server=TCPServer.new('127.0.0.1',8080)whileconnection=server.acceptheaders=[]length=0whileline=connection.getsheaders想法是从命令行运行这个脚本,提供另一个脚本,它将在其标准输入上获取请求,并在其标准输出上返回完整的响应。到目前为止一切顺利,但事实证明这真的很脆弱,因为它在第二个请求上中断并出现错误:/usr/b
我正在尝试使用boilerpipe来自JRuby。我看过guide从JRuby调用Java,并成功地将它与另一个Java包一起使用,但无法弄清楚为什么同样的东西不能用于boilerpipe。我正在尝试基本上从JRuby中执行与此Java等效的操作:URLurl=newURL("http://www.example.com/some-location/index.html");Stringtext=ArticleExtractor.INSTANCE.getText(url);在JRuby中试过这个:require'java'url=java.net.URL.new("http://www
我只想对我一直在思考的这个问题有其他意见,例如我有classuser_controller和classuserclassUserattr_accessor:name,:usernameendclassUserController//dosomethingaboutanythingaboutusersend问题是我的User类中是否应该有逻辑user=User.newuser.do_something(user1)oritshouldbeuser_controller=UserController.newuser_controller.do_something(user1,user2)我
什么是ruby的rack或python的Java的wsgi?还有一个路由库。 最佳答案 来自Python标准PEP333:Bycontrast,althoughJavahasjustasmanywebapplicationframeworksavailable,Java's"servlet"APImakesitpossibleforapplicationswrittenwithanyJavawebapplicationframeworktoruninanywebserverthatsupportstheservletAPI.ht
?博客主页:https://xiaoy.blog.csdn.net?本文由呆呆敲代码的小Y原创,首发于CSDN??学习专栏推荐:Unity系统学习专栏?游戏制作专栏推荐:游戏制作?Unity实战100例专栏推荐:Unity实战100例教程?欢迎点赞?收藏⭐留言?如有错误敬请指正!?未来很长,值得我们全力奔赴更美好的生活✨------------------❤️分割线❤️-------------------------
这篇文章是继上一篇文章“Observability:从零开始创建Java微服务并监控它(一)”的续篇。在上一篇文章中,我们讲述了如何创建一个Javaweb应用,并使用Filebeat来收集应用所生成的日志。在今天的文章中,我来详述如何收集应用的指标,使用APM来监控应用并监督web服务的在线情况。源码可以在地址 https://github.com/liu-xiao-guo/java_observability 进行下载。摄入指标指标被视为可以随时更改的时间点值。当前请求的数量可以改变任何毫秒。你可能有1000个请求的峰值,然后一切都回到一个请求。这也意味着这些指标可能不准确,你还想提取最小/
HashMap中为什么引入红黑树,而不是AVL树呢1.概述开始学习这个知识点之前我们需要知道,在JDK1.8以及之前,针对HashMap有什么不同。JDK1.7的时候,HashMap的底层实现是数组+链表JDK1.8的时候,HashMap的底层实现是数组+链表+红黑树我们要思考一个问题,为什么要从链表转为红黑树呢。首先先让我们了解下链表有什么不好???2.链表上述的截图其实就是链表的结构,我们来看下链表的增删改查的时间复杂度增:因为链表不是线性结构,所以每次添加的时候,只需要移动一个节点,所以可以理解为复杂度是N(1)删:算法时间复杂度跟增保持一致查:既然是非线性结构,所以查询某一个节点的时候
网络编程套接字网络编程基础知识理解源`IP`地址和目的`IP`地址理解源MAC地址和目的MAC地址认识端口号理解端口号和进程ID理解源端口号和目的端口号认识`TCP`协议认识`UDP`协议网络字节序socket编程接口`sockaddr``UDP`网络程序服务器端代码逻辑:需要用到的接口服务器端代码`udp`客户端代码逻辑`udp`客户端代码`TCP`网络程序服务器代码逻辑多个版本服务器单进程版本多进程版本多线程版本线程池版本服务器端代码客户端代码逻辑客户端代码TCP协议通讯流程TCP协议的客户端/服务器程序流程三次握手(建立连接)数据传输四次挥手(断开连接)TCP和UDP对比网络编程基础知识
MIMO技术的优缺点优点通过下面三个增益来总体概括:阵列增益。阵列增益是指由于接收机通过对接收信号的相干合并而活得的平均SNR的提高。在发射机不知道信道信息的情况下,MIMO系统可以获得的阵列增益与接收天线数成正比复用增益。在采用空间复用方案的MIMO系统中,可以获得复用增益,即信道容量成倍增加。信道容量的增加与min(Nt,Nr)成正比分集增益。在采用空间分集方案的MIMO系统中,可以获得分集增益,即可靠性性能的改善。分集增益用独立衰落支路数来描述,即分集指数。在使用了空时编码的MIMO系统中,由于接收天线或发射天线之间的间距较远,可认为它们各自的大尺度衰落是相互独立的,因此分布式MIMO