|
er was quickly overwhelmed by hundreds of thousands of queries a second.
一个错误的配置变更，导致大量的请求击穿缓存，直达数据库。我们把这种现象称之为cache stampede，wiki地址：https://en.wikipedia.org/wiki/Cache_stampede。这在技术行业是一个非常普遍的问题，很多公司都出现过类似的事故，无数工程师为了不让自己的项目遭遇这样的问题做了大量的工作。
1、什么是缓存踩踏
cache stampede是指很多线程尝试并行访问缓存，如果缓存中不存在要访问的数据，那么这时候，线程一般会请求数据库获取它们需要的数据(所以cache stampede可以翻译成缓存踩踏。和缓存穿透有点不一样，Cache Stampede的重点是很多的线程穿透缓存)。
缓存踩踏破坏性这么大的主要原因是，它可能会导致故障雪崩，也就是说一个故障接着一个故障：
-
大量线程并发请求没有从缓存中获取到数据，导致这些请求都会落到数据库上。
-
数据库由于恐怖的CPU毛刺而宕机，从而导致大量的超时错误。
-
请求线程接收到超时后，又不断重试请求，从而又导致新一轮的灾难。
-
反反复复，无穷无尽。
需要说明的是，即使你没有 Facebook 那样的规模，也会遇到这个问题，因为它与规模无关。这个问题一直困扰着初创公司和科技巨头。
2、如何阻止缓存踩踏
这是个很好的问题，在这篇文章中，我们将探索不同的策略来缓解甚至阻止缓存踩踏的出现。毕竟，你也不想等到你自己的服务出现问题后，才想到要学习如何预防。
2.1 增加更多的缓存
一个很简单的方法就是增加更多的缓存，它的原理有点类似操作系统的多级缓存。操作系统使用了一个缓存层次结构(L1、L2、L3)，为了更快速的访问。参考操作系统，你也能在你的应用中引入多级缓存。比如本地内存缓存叫做L1缓存(例如Guava Cache，Caffeine)，远程缓存叫做L2缓存(例如Redis，memcached)：值，能够挡住大量请求不会打到数据库上。
然后，这种方法需要做一些取舍，在应用服务器本地缓存中缓存数据可能会导致OOM。在使用本地缓存的时候要非常小心，尤其当你会缓存一些大量数据的时候。
另外，这个策略在接下来我要说的这种情况下仍然没有作用。例如，当一个有很多粉丝的大V上传了一个新的照片或者视频到他们的社交账号上，这时候大量粉丝被提醒大V有新的内容发布，这时候粉丝会集中在相同的时间点上登陆社交平台查看新的内容。但是可能大V发送的新内容数据还没有加载到缓存中，这就会导致可怕的缓存踩踏。那么，我们还能做什么呢?
2.2 锁和Promise
（编辑：沧州站长网）
【声明】本站内容均来自网络，其相关言论仅代表作者个人观点，不代表本站立场。若无意侵犯到您的权利，请及时与联系站长删除相关内容!
|
