我有一个用例,其中我配置了多个具有不同属性的缓存管理器,并使用不同的方法(使用单独的缓存名称进行注释)。
缓存的方法是从http客户端异步检索数据,然后缓存响应。在上述用例中,来自两个缓存方法的数据在返回结果之前进行合并。有时,结果仅包含来自一种缓存方法的数据,并且刷新后即可解决问题。
我无法理解在什么情况下会出现此问题?
@Configuraions
public class CacheConfig{
public static final String CACHE1 = "cache1";
public static final String CACHE2 = "cache2";
@Value("${cache.caffeineSpec:expireAfterWrite=43200s,maximumSize=1000,recordStats}")
private String cacheSpec1;
@Value("${cache.caffeineSpec: expireAfterWrite=3600s,maximumSize=2000,recordStats}")
private String cacheSpec2;
@Bean("cacheManager1")
@Primary
public CacheManager brokerDetailscacheManager() {
CaffeineCacheManager cacheManager = new CaffeineCacheManager(CACHE1);
cacheManager.setCaffeine(Caffeine.from(cacheSpec1));
return cacheManager;
}
@Bean("cacheManager2")
public CacheManager brokerTierCodeMapCacheManager() {
CaffeineCacheManager cacheManager = new CaffeineCacheManager(CACHE2, BROKER_TIER_CACHE);
cacheManager.setCaffeine(Caffeine.from(cacheSpec2));
return cacheManager;
}
}
使用中的模型
public class Person {
private String firstname;
private String lastname;
private List<Address> adresses;
}
private class Address {
private String street;
private String City
private String zip;
}
private class PersonInfo {
private String firstname;
private String lastname;
private Address address;
}
缓存的方法类是:
@Service
@RequiredArgsConstructor
public class PersonCache {
private final DataClient dataClient;
@Cacheable(cacheNames = CacheConfig.CACHE1, cacheManager = "cacheManager1" ,sync = true)
public Map<String, Person> getPersonDetails(String firstname) {
Map<String, Person> personMap = new HashMap()<>;
//Key is first name, grouping all results by firstname
try {
personMap = dataClient.getPersonDetails(firstname)
.toCompletableFuture()
.get(3, TimeUnit.SECONDS);
}catch(Exception e) {
log.error("Error fetching response from api". e);
}
}
@Cacheable(cacheNames = CacheConfig.CACHE2, cacheManager = "cacheManager2" ,sync = true)
public Map<String, Person> getPersonDetails(String firstname) {
List<PersonInfo> personMap = new ArrayList();
try {
personMap = dataClient.getPersonInfoDetails(firstname)
.toCompletableFuture()
.get(3, TimeUnit.SECONDS);
}catch(Exception e) {
log.error("Error fetching response from api". e);
}
return transformPersonInfoToPerson(personMap);
}
}
调用方法:
@Service
@RequiredArgsConstructor
public class PersonService {
private final PersonCache personCache;
public List<Person> getPersonDetails(String firstName) {
Map<String, Person> personResponse1 = personCache.getPersonDetails(firstName);
//.. after fetching for the first result set, check for a flag and call the below cache to append the data
Map<String, Person> personResponse2 = personCache.getPersonInfoDetails(firstName);
personResponse1.putAll(personResponse2);
// This when returned at times does not contain any response from personResponse1 and only contains the personResponse2 data
return personResponse1.values();
}
}
异步API调用是否可能导致某种遗漏,并将第二个缓存的结果集添加到结果中并返回?
(调用方法也从控制器类异步调用)
无论端点被触发的次数如何,我应如何处理以获得一致的响应?
最佳答案
缓存键和值一旦进入缓存,就应视为不可变的。这是因为它们变得可用于多个线程,因此之后更改条目可能变得不可预测。当以不安全的方式进行操作时,该行为鲜为人知。
在您的代码中,缓存的值作为HashMap personResponse1
返回。然后将其修改为包含personResponse2
的条目。充其量,此操作会将所有内容存储在下一个调用的response1中,但由于多个线程不同步地写入其中,这也可能导致损坏。当损坏时,可能是某些条目无法再次找到,例如调整大小时,它们没有正确地重新整理到正确的表位置中,或者不再位于垃圾箱的链接列表中。另一种可能性是,由于将值的可变视图返回到未显示的客户端代码,因此该代码可能会在处理它时删除条目。实际行为变得不可预测,这就是刷新后短时间内看起来正确的原因,因为缓存会丢弃损坏的结果。
一个好的做法是存储一个不变的Map.copy
或用Collections.unmodifiableMap
装饰。然后不允许进行任何突变,您将立即捕获到这一点。使用缓存的响应时,将它们合并到新的映射中。您的代码很可能是未缓存的,因此未存储和共享响应,但是在此处添加缓存已更改,因此您现在需要注意可变的共享状态所引起的问题。