缓存穿透是指查询一个数据库中肯定不存在的数据,导致每次请求都打到数据库,解决方案有:1. 使用布隆过滤器,通过bit数组和哈希函数高效判断key是否存在,但有一定误判率;2. 缓存空对象,在数据库无数据时缓存空对象以减少后续请求;3. 接口层校验,对请求参数进行合法性校验,防止非法请求到达数据库。
缓存穿透,简单来说,就是查询一个数据库里肯定不存在的数据。由于缓存中没有,每次请求都会打到数据库,如果这种请求量很大,数据库就可能扛不住。
解决方案:
布隆过滤器:高效判断 Key 是否存在
布隆过滤器是一种概率型数据结构,能告诉你“可能存在”或“肯定不存在”。 它的优点是空间效率和查询效率都很高,缺点是有一定的误判率(false positive)。
立即学习“Java免费学习笔记(深入)”;
工作原理:
- 初始化: 创建一个 bit 数组,所有位初始化为 0。定义 k 个不同的哈希函数。
- 添加元素: 将元素通过 k 个哈希函数计算出 k 个哈希值,然后将 bit 数组中对应的 k 个位置置为 1。
- 查询元素: 将元素通过 k 个哈希函数计算出 k 个哈希值,检查 bit 数组中对应的 k 个位置是否都为 1。如果都为 1,则“可能存在”,否则“肯定不存在”。
import com.google.common.hash.BloomFilter; import com.google.common.hash.Funnels; public class BloomFilterExample { private static final int EXPECTED_INSERTIONS = 1000; // 预期的插入数量 private static final double FPP = 0.01; // 误判率 private static BloomFilter<Integer> bloomFilter = BloomFilter.create( Funnels.integerFunnel(), EXPECTED_INSERTIONS, FPP); public static void main(String[] args) { // 假设数据库中存在 1 到 100 的数据 for (int i = 1; i <= 100; i++) { bloomFilter.put(i); } // 测试不存在的数据 System.out.println("Checking if 101 exists: " + bloomFilter.mightContain(101)); // 可能返回 true (误判) 或 false System.out.println("Checking if 2 exists: " + bloomFilter.mightContain(2)); // 肯定返回 true } }
使用场景:
- 在缓存之前,先通过布隆过滤器判断 Key 是否存在,如果不存在,直接返回,避免查询缓存和数据库。
- 适用于数据量大,且 Key 的变化不频繁的场景。
需要注意:
- 布隆过滤器有一定的误判率,因此不能完全避免缓存穿透。
- 如果数据变化频繁,需要定期更新布隆过滤器。
缓存空对象:简单粗暴但有效
当数据库查询结果为空时,仍然将这个空结果缓存起来,下次再请求这个 Key 时,直接从缓存返回。
实现方式:
public Object getFromCache(String key) { Object cacheValue = cache.get(key); if (cacheValue == null) { Object dbValue = getDataFromDB(key); if (dbValue == null) { // 缓存空对象 cache.put(key, new NullValue(), CACHE_EXPIRATION_TIME); // NullValue 是一个自定义的空对象 } else { cache.put(key, dbValue, CACHE_EXPIRATION_TIME); return dbValue; } } if (cacheValue instanceof NullValue) { return null; // 返回 null 表示数据不存在 } return cacheValue; } // 自定义空对象 class NullValue {}
优点:
- 实现简单,不需要引入额外的组件。
- 能够有效防止缓存穿透。
缺点:
- 缓存中会存在大量的空对象,占用一定的存储空间。
- 如果空对象设置的过期时间较长,可能会导致数据不一致。
最佳实践:
- 空对象的过期时间不宜过长,可以设置一个较短的过期时间,例如 1 分钟。
- 可以考虑使用特殊的 Key 来标识空对象,例如 “NULL_” + key。
接口层校验:亡羊补牢,防患于未然
在接口层对请求参数进行校验,过滤掉不合法的 Key,避免请求打到缓存和数据库。
实现方式:
- 使用正则表达式校验 Key 的格式。
- 使用白名单或黑名单过滤 Key。
- 对 Key 进行编码或加密。
优点:
- 能够有效防止恶意攻击。
- 减轻缓存和数据库的压力。
缺点:
- 需要对所有接口进行改造。
- 可能会影响接口的性能。
需要注意:
- 接口层校验只能作为一种辅助手段,不能完全依赖接口层校验来防止缓存穿透。
如何选择合适的方案?
这取决于你的具体场景。
- 数据量小,Key 的变化不频繁: 可以考虑使用缓存空对象。
- 数据量大,Key 的变化不频繁: 可以考虑使用布隆过滤器。
- 需要防止恶意攻击: 可以考虑使用接口层校验。
- 多种方案结合使用: 可以将多种方案结合起来使用,以达到更好的效果。
缓存穿透和缓存击穿、缓存雪崩有什么区别?
缓存穿透、缓存击穿和缓存雪崩是缓存使用中常见的三个问题,它们之间的区别如下:
- 缓存穿透: 查询一个数据库中肯定不存在的数据。
- 缓存击穿: 缓存中某个热点 Key 过期,导致大量请求打到数据库。
- 缓存雪崩: 缓存中大量的 Key 同时过期,导致大量请求打到数据库。
简而言之,缓存穿透是查不存在的数据,缓存击穿是查存在的但过期的热点数据,缓存雪崩是查大量同时过期的数据。
布隆过滤器如何选择合适的哈希函数?
选择合适的哈希函数对于布隆过滤器的性能至关重要。好的哈希函数应该满足以下条件:
- 均匀性: 哈希函数应该将元素均匀地分布到 bit 数组中,避免出现哈希冲突。
- 独立性: 不同的哈希函数应该相互独立,减少误判率。
- 高效性: 哈希函数的计算速度应该足够快,避免影响查询性能。
常见的哈希函数包括:
- MurmurHash: 一种非加密哈希函数,性能优异,广泛应用于各种场景。
- FNV Hash: 一种快速哈希函数,适用于对性能要求较高的场景。
- MD5、SHA-1: 加密哈希函数,安全性高,但性能较差,不适合用于布隆过滤器。
在实际应用中,可以根据具体场景选择合适的哈希函数。Guava 提供的 BloomFilter 默认使用 MurmurHash。
缓存空对象会带来什么问题?如何避免?
缓存空对象的主要问题是:
- 占用存储空间: 缓存中会存在大量的空对象,占用一定的存储空间。
- 数据不一致: 如果空对象设置的过期时间较长,可能会导致数据不一致。
为了避免这些问题,可以采取以下措施:
- 设置较短的过期时间: 空对象的过期时间不宜过长,可以设置一个较短的过期时间,例如 1 分钟。
- 使用特殊的 Key 标识空对象: 可以考虑使用特殊的 Key 来标识空对象,例如 “NULL_” + key。
- 限制空对象的数量: 可以设置一个最大空对象数量,当空对象数量超过限制时,不再缓存新的空对象。
- 定期清理空对象: 可以定期清理缓存中的空对象,释放存储空间。