应对大流量高并发常见的手段

对于大流量高并发常见的手段：缓存，中间件削峰，限流，降级

1.缓存

常见的加缓存的方式有：

 

2.中间件削峰

 

3.限流

　　限流概念：限流的目的是通过对并发访问/请求进行限速，或者对一个时间窗口内的请求进行限速来保护系统，一旦达到限制速率则可以拒绝服务、排队或等待、降级等处理。

　　常见的限流手段：常用的限流算法有两种：漏桶算法和令牌桶算法。

       漏桶算法：漏桶算法思路很简单，水（请求）先进入到漏桶里，漏桶以一定的速度出水，当水流入速度过大会直接溢出，可以看出漏桶算法能强行限制数据的传输速率。

对于很多应用场景来说，除了要求能够限制数据的平均传输速率外，还要求允许某种程度的突发传输。这时候漏桶算法可能就不合适了，令牌桶算法更为适合。

 

     令牌桶算法：令牌桶算法的原理是系统会以一个恒定的速度往桶里放入令牌，而如果请求需要被处理，则需要先从桶里获取一个令牌，当桶里没有令牌可取时，

则拒绝服务，令牌桶算法通过发放令牌，根据令牌的rate频率做请求频率限制，容量限制等。

　　通常使用Google开源工具包Guava提供的限流工具类RateLimiter来实现控制速率，该类基于令牌桶算法来完成限流，非常易于使用，而且非常高效。

 

4.降级

 

标签：令牌,缓存,请求,常见,流量,并发,算法,限流,漏桶
来源： https://www.cnblogs.com/yb-ken/p/15722716.html