[背景]

我正在研究用于信号分析/图像处理的 java 服务器端进程。
主服务器进程将接受来自用户的请求/输入参数(XML/图像)。
然后它将请求/输入分发到多个处理引擎。
处理引擎是用 Java 编写的。他们将执行 JNI 调用以进行图像/信号处理。它们将通过 RMI 进行通信。

相同的请求会用不同的输入参数再次处理,输入参数非常大(图片大小:1-2MB)。
我们不想每次都将请求发送到处理引擎。
我们在处理引擎中缓存请求/输入。
JNI 对象是有状态的,也保存在处理引擎中。
相同的计算将始终由相同的处理引擎进行计算。

[问题]

我们无法准确预测实时使用情况,工作负载分布不均匀。
由于相同的请求总是经过相同的处理引擎,因此一些处理引擎可能会过载,而另一些则处于空闲状态。

[需求]

这是我想要实现的目标:
- 动态工作负载分配:请求可以由不同的引擎处理。
- 数据的低延迟缓存(大型 XML/Imagine):我们希望使用分布式缓存,而不是通过 RMI 将输入/数据发送到引擎。
- JNI 对象也将存储在分布式缓存中并保持其状态

[问题]

  • 是否有适合我的要求的 Java 低延迟分布式缓存(尤其是 JNI 对象的缓存)?
  • 之前我没有使用分布式缓存并查看 Terracotta。还有其他推荐吗?

  • 感谢您提供任何意见!

    最佳答案

    Ehcache 在我工作过的几个不同网站上都很受欢迎。我听到的迹象是积极的,但他们的用例稍微简单一些。即便如此,缓存的项目不应该对缓存的性能产生任何影响,除非可能存在大小问题(并且您已经说过您的项目相当大)。

    不清楚的是,您已经说过不想每次都发送参数,但是每个请求的参数都不同。尝试缓存或绑定(bind)每次不同的东西对您没有帮助,在这种情况下,您最好完全忘记缓存,而只是忍受发送请求参数的开销。也许我错过了什么!?

    10-07 23:33