jjzjj

java - 计算图: computing value ahead of time

coder 2023-08-31 原文

我有一个 computing map (使用 soft values )我用来缓存昂贵计算的结果。

现在我有一种情况，我知道在接下来的几秒钟内可能会查找特定的 key 。该 key 的计算成本也比大多数 key 都高。

我想在一个最低优先级的线程中提前计算该值，以便在最终请求该值时它已经被缓存，从而缩短响应时间。

这样做的好方法是:

  1. 我可以控制执行计算的线程(特别是它的优先级)。
  2. 避免了重复工作，即计算只进行一次。如果计算任务已经在运行，那么调用线程将等待该任务而不是再次计算值(FutureTask 实现了这一点。对于 Guava 的计算映射，如果您只调用 get 但如果您将它与 put 的调用混合使用则不会。)
  3. “预先计算值”方法是异步和幂等的。如果计算已经在进行中，它应该立即返回，而无需等待该计算完成。
  4. 避免优先级倒置，例如如果高优先级线程请求值，而中优先级线程正在做一些不相关的事情，但计算任务在低优先级线程上排队，则高优先级线程不能饿死。也许这可以通过临时提高计算线程的优先级和/或在调用线程上运行计算来实现。

如何在所有涉及的线程之间进行协调？

附加信息
我的应用程序中的计算是图像过滤操作，这意味着它们都是 CPU 密集型的。这些操作包括仿射变换(范围从 50µs 到 1ms)和卷积(最多 10ms)。当然，不同线程优先级的有效性取决于操作系统抢占更大任务的能力。

最佳答案

您可以通过将 Future 与 ComputedMap 结合使用来安排后台计算的“仅一次”执行。 Future 代表计算值的任务。 future 由 ComputedMap 创建，同时传递给 ExecutorService。用于后台执行。执行器可以自己配置ThreadFactory创建低优先级线程的实现，例如

class LowPriorityThreadFactory implements ThreadFactory
{
   public Thread newThread(Runnable r) {
     Tread t = new Thread(r);
     t.setPriority(MIN_PRIORITY);
     return t;
   }
}

当需要该值时，您的高优先级线程便会从 map 中获取 future ，并调用 get() 方法来检索结果，并在必要时等待计算结果。避免 priority inversion您向任务添加一些额外的代码:

class HandlePriorityInversionTask extends FutureTask<ResultType>
{
   Integer priority;  // non null if set
   Integer originalPriority;
   Thread thread;
   public ResultType get() {
      if (!isDone()) 
         setPriority(Thread.currentThread().getPriority());
      return super.get();
   }
   public void run() {
      synchronized (this) {
         thread = Thread.currentThread();
         originalPriority = thread.getPriority();
         if (priority!=null) setPriority(priority);
      } 
      super.run();
   }
   protected synchronized void done() {
         if (originalPriority!=null) setPriority(originalPriority);
         thread = null;
   }

   void synchronized setPriority(int priority) {
       this.priority = Integer.valueOf(priority);
       if (thread!=null)
          thread.setPriority(priority);
   }
}

如果任务还没有完成，这负责将任务的优先级提高到调用 get() 的线程的优先级，并在任务完成时返回原来的优先级，通常或其他。 (为简洁起见，代码不会检查优先级是否确实更高，但这很容易添加。)

当高优先级任务调用get()时，future可能还没有开始执行。您可能想通过为执行程序服务使用的线程数设置一个较大的上限来避免这种情况，但这可能不是一个好主意，因为每个线程都可能以高优先级运行，消耗尽可能多的 cpu操作系统将其关闭。池的大小可能应该与硬件线程的数量相同，例如将池大小设置为 Runtime.availableProcessors()。如果任务还没有开始执行，而不是等待执行者安排它(这是一种优先级反转的形式，因为你的高优先级线程正在等待低优先级线程完成)那么你可以选择取消它当前执行器并在仅运行高优先级线程的执行器上重新提交。

关于java - 计算图: computing value ahead of time，我们在Stack Overflow上找到一个类似的问题： https://stackoverflow.com/questions/3205231/

computingahead高优codepriorityjavaconcurrencyguavamemoization

有关java - 计算图: computing value ahead of time的更多相关文章

  1. java - 等价于 Java 中的 Ruby Hash - 2

    我真的很习惯使用Ruby编写以下代码:my_hash={}my_hash['test']=1Java中对应的数据结构是什么？ 最佳答案 HashMapmap=newHashMap();map.put("test",1);我假设？ 关于java-等价于Java中的RubyHash，我们在StackOverflow上找到一个类似的问题： https://stackoverflow.com/questions/22737685/

  2. java - 从 JRuby 调用 Java 类的问题 - 2

    我正在尝试使用boilerpipe来自JRuby。我看过guide从JRuby调用Java，并成功地将它与另一个Java包一起使用，但无法弄清楚为什么同样的东西不能用于boilerpipe。我正在尝试基本上从JRuby中执行与此Java等效的操作:URLurl=newURL("http://www.example.com/some-location/index.html");Stringtext=ArticleExtractor.INSTANCE.getText(url);在JRuby中试过这个:require'java'url=java.net.URL.new("http://www

  3. java - 我的模型类或其他类中应该有逻辑吗 - 2

    我只想对我一直在思考的这个问题有其他意见，例如我有classuser_controller和classuserclassUserattr_accessor:name,:usernameendclassUserController//dosomethingaboutanythingaboutusersend问题是我的User类中是否应该有逻辑user=User.newuser.do_something(user1)oritshouldbeuser_controller=UserController.newuser_controller.do_something(user1,user2)我

  4. java - 什么相当于 ruby​​ 的 rack 或 python 的 Java wsgi？ - 2

    什么是ruby​​的rack或python的Java的wsgi？还有一个路由库。 最佳答案 来自Python标准PEP333:Bycontrast,althoughJavahasjustasmanywebapplicationframeworksavailable,Java's"servlet"APImakesitpossibleforapplicationswrittenwithanyJavawebapplicationframeworktoruninanywebserverthatsupportstheservletAPI.ht

  5. Observability：从零开始创建 Java 微服务并监控它 （二） - 2

    这篇文章是继上一篇文章“Observability：从零开始创建Java微服务并监控它（一）”的续篇。在上一篇文章中，我们讲述了如何创建一个Javaweb应用，并使用Filebeat来收集应用所生成的日志。在今天的文章中，我来详述如何收集应用的指标，使用APM来监控应用并监督web服务的在线情况。源码可以在地址 https://github.com/liu-xiao-guo/java_observability 进行下载。摄入指标指标被视为可以随时更改的时间点值。当前请求的数量可以改变任何毫秒。你可能有1000个请求的峰值，然后一切都回到一个请求。这也意味着这些指标可能不准确，你还想提取最小/

  6. 【Java 面试合集】HashMap中为什么引入红黑树，而不是AVL树呢 - 2

    HashMap中为什么引入红黑树，而不是AVL树呢1.概述开始学习这个知识点之前我们需要知道，在JDK1.8以及之前，针对HashMap有什么不同。JDK1.7的时候，HashMap的底层实现是数组+链表JDK1.8的时候，HashMap的底层实现是数组+链表+红黑树我们要思考一个问题，为什么要从链表转为红黑树呢。首先先让我们了解下链表有什么不好？？？2.链表上述的截图其实就是链表的结构，我们来看下链表的增删改查的时间复杂度增：因为链表不是线性结构，所以每次添加的时候，只需要移动一个节点，所以可以理解为复杂度是N(1)删：算法时间复杂度跟增保持一致查：既然是非线性结构，所以查询某一个节点的时候

  7. 【Java入门】使用Java实现文件夹的遍历 - 2

    遍历文件夹我们通常是使用递归进行操作，这种方式比较简单，也比较容易理解。本文为大家介绍另一种不使用递归的方式，由于没有使用递归，只用到了循环和集合，所以效率更高一些！一、使用递归遍历文件夹整体思路1、使用File封装初始目录，2、打印这个目录3、获取这个目录下所有的子文件和子目录的数组。4、遍历这个数组，取出每个File对象4-1、如果File是否是一个文件，打印4-2、否则就是一个目录，递归调用代码实现publicclassSearchFile{publicstaticvoidmain(String[]args){//初始目录Filedir=newFile("d:/Dev");Datebeg

  8. java - 为什么 ruby​​ modulo 与 java/other lang 不同？ - 2

    我基本上来自Java背景并且努力理解Ruby中的模运算。(5%3)(-5%3)(5%-3)(-5%-3)Java中的上述操作产生，2个-22个-2但在Ruby中，相同的表达式会产生21个-1-2.Ruby在逻辑上有多擅长这个？模块操作在Ruby中是如何实现的？如果将同一个操作定义为一个web服务，两个服务如何匹配逻辑。 最佳答案 在Java中，模运算的结果与被除数的符号相同。在Ruby中，它与除数的符号相同。remainder()在Ruby中与被除数的符号相同。您可能还想引用modulooperation.

  9. java - Ruby 相当于 Java 的 Collections.unmodifiableList 和 Collections.unmodifiableMap - 2

    Java的Collections.unmodifiableList和Collections.unmodifiableMap在Ruby标准API中是否有等价物？ 最佳答案 使用freeze应用程序接口(interface):Preventsfurthermodificationstoobj.ARuntimeErrorwillberaisedifmodificationisattempted.Thereisnowaytounfreezeafrozenobject.SeealsoObject#frozen?.Thismethodretur

  10. java - Java 的 StringReader 的 Ruby 等价物是什么？ - 2

    在Java中，可以像这样从一个字符串创建一个IO流:Readerr=newStringReader("mytext");我希望能够在Ruby中做同样的事情，这样我就可以获取一个字符串并将其视为一个IO流。 最佳答案 r=StringIO.new("mytext")和here'sthedocumentation. 关于java-Java的StringReader的Ruby等价物是什么？，我们在StackOverflow上找到一个类似的问题： https://st

随机推荐