Files
rikako-note/spring/spring cache/spring cache.md

11 KiB
Raw Blame History

Spring Cache

Cache Abstract

Cache针对java方法进行缓存当想要获取的信息在cache中可获取时可以从cache中进行获取从而降低了java方法的执行次数。
每次在目标方法执行时cache abstraction应用了一个cache check检查该方法是否已经通过指定参数调用过。如果该方法已经通过指定参数调用过会直接从缓存中获取已缓存的执行结果而无需重复的调用方法。如果该方法尚未被调用过那么调用该方法并且将该方法的返回结果添加到缓存中从而在方法下次调用时直接从cache中获取值。
通过cache可以缓存开销较高的方法结果io开销较高和cpu开销较高的方法结果均可被缓存cache逻辑对于调用者来说是透明的。

cache abstraction提供了一系列缓存相关的api可以对cache内容进行更新或是移除当缓存数据内容会改变的情况下这些api会很有用。

在spring中cache abstraction的caching service是一个抽象接口而不是实现需要使用实际的storage来对缓存数据进行存储。
spring提供了cache abstraction的一系列实现例如基于JDK java.util.concurrent.ConcurrentMap的缓存、Caffeine等

使用cache abstraction的要点

  1. cache声明表示需要使用cache的方法并且指明cache策略
  2. cache配置将cache数据存储到何处并从何处读取

缓存可能会存在的问题

在使用缓存时,可能会面临如下问题:

  • 多进程环境问题在多进程环境之下如微服务在多个server上部署服务使用缓存时如果想要缓存在多个节点之间进行共享需要解决缓存的共享问题
  • 并发安全问题使用缓存实际上是get-if-not-found-then-proceed-and-put-eventually的过程在这个过程中并不会加锁故而会存在并发安全的问题。如果多个线程都同时发生缓存miss的问题那么同一个方法会背调用多次并且返回结果会背load多次淘汰时同样会面临竞争问题并发环境下如果有一个线程想要淘汰过时key但另一个线程load了最新的value并更新ttl那么更新后的key仍有可能被淘汰。

基于声明式注解的缓存

@Cacheable

可以使用@Cacheable将方法声明为可缓存的在将方法声明为@Cacheable之后方法的返回结果会被存储到缓存中。在一系列具有相同参数的调用中cache中缓存的值将会被返回而无需真的调用方法。
在@Cacheable注解最简单的使用场景中需要指明和方法关联的cache name

// 如下示例中findBook方法将会和名为books的缓存相关联
@Cacheable("books")
public Book findBook(ISBN isbn) {...}

虽然大多数场景下@Cacheable注解只会指定一个cache name但是也能为@Cacheable注解指定多个cache。当任一缓存命中时,关联的值都会被返回。
即使其他缓存没有命中,该命中值也会添加到所有其他缓存中(方法并未被实际调用)

如下实例为@Cacheable方法指定了多个cache

@Cacheable({"books", "isbns"})
public Book findBook(ISBN isbn) {...}

默认的key生成

缓存实际上是通过key-value的形式存储的每次对cached method的调用都需要被转化为一个合适的key。cache abstraction通过使用SimpleKeyGenerator来生成key该generator生成算法如下

  • 如果没有给定参数那么返回SimpleKey.EMPTY
  • 如果给定了一个参数,返回该参数
  • 如果指定了多于一个参数那么返回一个包含所有参数的SimpleKey

该算法在大多数用例之下运行正常只要参数含有正常key并且具有有效的hashCode和equals实现。

自定义key生成的方式

当在cached method的参数中仅仅只有一部分参数应参与key的生成另一部分不参与时可以通过指定@Cacheable注解的key属性来指定如何生成key。可以在key属性中使用spel表达式

@Cacheable(cacheNames="books", key="#isbn")
public Book findBook(ISBN isbn, boolean checkWarehouse, boolean includeUsed)

@Cacheable(cacheNames="books", key="#isbn.rawNumber")
public Book findBook(ISBN isbn, boolean checkWarehouse, boolean includeUsed)

@Cacheable(cacheNames="books", key="T(someType).hash(#isbn)")
public Book findBook(ISBN isbn, boolean checkWarehouse, boolean includeUsed)

sync caching

在使用@Cacheable时默认情况下cached method并没有使用任何lock。可以使用@Cacheable注解的sync属性来指示底层的缓存provider在value被计算时锁定指定条目防止在竞争场景下同一个值被重复计算

@Cacheable(cacheNames="foos", sync=true) 
public Foo executeExpensiveOperation(String id) {...}

condition cache

可以通过指定@Cacheable注解的condition属性来指定该方法调用是否被缓存。condition可以为其指定一个spel表达式如果表达式结果为true该方法调用被缓存否则不被缓存。

// 仅当name参数的长度小于32时被缓存
@Cacheable(cacheNames="book", condition="#name.length() < 32") 
public Book findBook(String name)

还可以使用unless属性来阻止方法被缓存unless同样可以为其指定一个spel表达式。unless在方法调用完成之后被计算可以通过#result来根据方法返回结果决定是否缓存该方法

@Cacheable(cacheNames="book", condition="#name.length() < 32", unless="#result.hardback") 
public Book findBook(String name)

@Cacheable和Optional

cache abstraction支持Optional类型如果Optional对象的value不为空那么value将会被存储到cache中如果Optional为空那么null将会被存储到管来奶的cache中。
在@Cacheable的spel表达式中#result获取的是Optional对象的value而不是wrapper。

@Cacheable(cacheNames="book", condition="#name.length() < 32", unless="#result?.hardback")
public Optional<Book> findBook(String name)

@CachePut

在不影响方法执行的情况下要将方法的执行结果更新到cache中可以使用@CachePut注解。标注了@CachePut的方法总会被执行并且执行的返回结果会被更新到cache中。
@CachePut注解支持和@Cacheable相同的参数且@CachePut用于的是缓存的注入而不应用于优化方法流程。
@CachePut的使用如下所示

@CachePut(cacheNames="book", key="#isbn")
public Book updateBook(ISBN isbn, BookDescriptor descriptor)

@CachePut注解和@Cacheable注解通常情况下不应用于同一方法上

@CacheEvict

cache abstraction不仅支持缓存的注入而且支持缓存的淘汰该淘汰过程可以从缓存中移除过时或未使用的数据。
@CacheEvict注解具有allEntries属性将该属性标记为true可以逐出所有的缓存条目

// 该场景下cache中的条目将会被清空
// 该场景下并不是依此逐出所有的key而是一次性清空所有缓存
@CacheEvict(cacheNames="books", allEntries=true) 
public void loadBooks(InputStream batch)

可以为@CacheEvict注解指定beforeInvocation属性来指定该eviction行为是否应该在@CacheEvict方法被调用之前执行

  • 默认情况下beforeInvocation属性的默认值为falseeviction操作在方法成功返回之后才执行如果该方法被cached或执行时抛出异常eviction操作不会执行
  • 如果beforeInvocation属性被设置为true代表该eviction行为在方法被调用之前就会被执行

@Caching

如果想要指定同一类型的多个注解(例如@CacheEvict或CachePut例如对不同的cachecondition和key expression不同。
@Caching注解允许对同一方法内嵌多个@Cacheable、@CachePut、@CacheEvict注解使用示例如下

@Caching(evict = { @CacheEvict("primary"), @CacheEvict(cacheNames="secondary", key="#p0") })
public Book importBooks(String deposit, Date date)

@CacheConfig

在使用cache注解时可能在同一个类中需要为所有cache operation指定相同的选项例如为类中所有的cache注解指定相同的cache name。此时可以通过一个class-level的@CacheConfig注解来指定类中所有cache operation的相同选项

@CacheConfig("books") 
public class BookRepositoryImpl implements BookRepository {

    @Cacheable
    public Book findBook(ISBN isbn) {...}
}

通过@CacheConfig注解指定的属性可以在cache operation中被覆盖

@EnableCaching

想要在项目中启用所有的缓存注解,需要在一个@Configuration类上指定@EnableCaching注解

配置cache 存储

cache abstraction提供了一些存储集成选项。如果没有指定任何cache library那么spring boot会自动装配一个simple provider该provider使用concurrent map来进行缓存存储。当需要一个cache时cache provider会创建一个cache并返回给调用者。

Cache Redis

如果redis在项目中配置并且可以获取那么spring boot会自动配置一个RedisCacheManager。可以在启动时配置其他cache通过在properties文件中指定spring.cache.cache-names属性并且cache的默认属性可以通过spring.cache.redis.*属性来进行配置:

spring.cache.cache-names=cache1,cache2
spring.cache.redis.time-to-live=10m

默认情况下对于不同的cache会添加一个key前缀继而如果两个不同的cache使用相同的key不会出现key冲突的情况

如果想要更细粒度的对cache进行配置可以通过如下方式进行配置

@Configuration(proxyBeanMethods = false)
public class MyRedisCacheManagerConfiguration {

    @Bean
    public RedisCacheManagerBuilderCustomizer myRedisCacheManagerBuilderCustomizer() {
        return (builder) -> builder
                .withCacheConfiguration("cache1", RedisCacheConfiguration
                        .defaultCacheConfig().entryTtl(Duration.ofSeconds(10)))
                .withCacheConfiguration("cache2", RedisCacheConfiguration
                        .defaultCacheConfig().entryTtl(Duration.ofMinutes(1)));

    }

}