设为首页收藏本站

PHPIN.NET

 找回密码
 立即注册
查看: 674|回复: 0

[其他相关] 接口限流的常用算法汇总

[复制链接]

433

主题

453

帖子

3708

积分

管理员

Rank: 9Rank: 9Rank: 9

积分
3708
发表于 2018-5-21 12:03:41 | 显示全部楼层 |阅读模式

马上注册,结交更多好友,享用更多功能,让你轻松玩转社区。

您需要 登录 才可以下载或查看,没有帐号?立即注册

x
  • 什么是接口限流

那么什么是限流呢?顾名思义,限流就是限制流量,包括并发的流量和一定时间内的总流量,就像你宽带包了1个G的流量,用完了就没了,所以控制你的使用频率和单次使用的总消耗。通过限流,我们可以很好地控制系统的qps,从而达到保护系统或者接口服务器稳定的目的。
  • 接口限流的常用算法

  • 计数器法

计 数器法是限流算法里最简单也是最容易实现的一种算法。比如我们规定,对于A接口来说,我们1分钟的访问次数不能超过100个。那么我们可以这么做:在一开 始的时候,我们可以设置一个计数器counter,每当一个请求过来的时候,counter就加1,如果counter的值大于100并且该请求与第一个 请求的间隔时间还在1分钟之内,那么说明请求数过多;如果该请求与第一个请求的间隔时间大于1分钟,且counter的值还在限流范围内,那么就重置 counter,具体算法的示意图如下:
1.jpg
伪代码如下:
  1. <?php
  2. class CounterDemo{

  3.     private  $timeStamp;
  4.     public  $reqCount=0;
  5.     public  $limit=100;//时间窗口内最大请求数
  6.     public $interval=1000; //时间窗口 ms


  7.     public function __construct()
  8.     {
  9.         $this->timeStamp = time();
  10.     }
  11.     public  function grant(){
  12.         $now=time();
  13.         if($now<$this->timeStamp+$this->interval){
  14.             //时间窗口内
  15.             $this->reqCount++;
  16.             return $this->reqCount<=$this->limit;
  17.         }else{
  18.             // 超时后重置
  19.             $this->timeStamp=time();
  20.             $this->reqCount=1;
  21.             return true;
  22.         }

  23.     }

  24. }
复制代码
这个算法看起来简单但是有个很严重的问题,那就是临界问题,看下图:
2.jpg
从上图中我们可以看到,假设有一个恶意用户,他在0:59时,瞬间发送了100个请求,并且1:00又瞬间发送了100个请求,那么其实这个用户在 1秒里面,瞬间发送了200个请求。我们刚才规定的是1分钟最多100个请求,也就是每秒钟最多1.7个请求,用户通过在时间窗口的重置节点处突发请求, 可以瞬间超过我们的速率限制。用户有可能通过算法的这个漏洞,瞬间压垮我们的应用。
聪明的朋友可能已经看出来了,刚才的问题其实是因为我们统计的精度太低。那么如何很好地处理这个问题呢?或者说,如何将临界问题的影响降低呢?我们可以看下面的滑动窗口算法。
  • 滑动窗口算法
    直接上图吧

    3.jpg
在上图中,整个红色的矩形框表示一个时间窗口,在我们的例子中,一个时间窗口就是一分钟。然后我们将时间窗口进行划分,比如图中,我们就将滑动窗口 划成了6格,所以每格代表的是10秒钟。每过10秒钟,我们的时间窗口就会往右滑动一格。每一个格子都有自己独立的计数器counter,比如当一个请求 在0:35秒的时候到达,那么0:30~0:39对应的counter就会加1。
那么滑动窗口怎么解决刚才的临界问题的呢?我们可以看上图,0:59到达的100个请求会落在灰色的格子中,而1:00到达的请求会落在橘黄色的格 子中。当时间到达1:00时,我们的窗口会往右移动一格,那么此时时间窗口内的总请求数量一共是200个,超过了限定的100个,所以此时能够检测出来触 发了限流。
我再来回顾一下刚才的计数器算法,我们可以发现,计数器算法其实就是滑动窗口算法。只是它没有对时间窗口做进一步地划分,所以只有1格。
由此可见,当滑动窗口的格子划分的越多,那么滑动窗口的滚动就越平滑,限流的统计就会越精确。
  • 漏桶算法
    漏桶算法,又称leaky bucket。为了理解漏桶算法,我们看一下维基百科上的对于该算法的示意图:

4.jpg
从图中我们可以看到,整个算法其实十分简单。首先,我们有一个固定容量的桶,有水流进来,也有水流出 去。对于流进来的水来说,我们无法预计一共有多 少水会流进来,也无法预计水流的速度。但是对于流出去的水来说,这个桶可以固定水流出的速率。而且,当桶满了之后,多余的水将会溢出。
我们将算法中的水换成实际应用中的请求,我们可以看到漏桶算法天生就限制了请求的速度。当使用了漏桶算法,我们可以保证接口会以一个常速速率来处理请求。所以漏桶算法天生不会出现临界问题。具体的伪代码实现如下:
  1. <?php
  2. class LeakyDemo{

  3.     private  $timeStamp;
  4.     public  $capacity;// 桶的容量
  5.     public  $rate; // 水漏出的速度
  6.     public  $water;// 当前水量(当前累积请求数)


  7.     public function __construct()
  8.     {
  9.         $this->timeStamp = time();
  10.     }
  11.     public  function grant(){
  12.         $now=time();
  13.         $this->water=max(0,$this->water-($now-$this->timeStamp)*$this->rate);// 先执行漏水,计算剩余水量
  14.         $this->timeStamp=$now;
  15.         if(($this->water+1)<$this->capacity){
  16.             // 尝试加水,并且水还未满
  17.             $this->water+=1;
  18.             return true;
  19.         }else{
  20.             // 水满,拒绝加水
  21.             return false;
  22.         }

  23.     }

  24. }
复制代码
令牌桶算法
令牌桶算法,又称token bucket。为了理解该算法,我们再来看一下维基百科上对该算法的示意图: 5.jpg
从图中我们可以看到,令牌桶算法比漏桶算法稍显复杂。首先,我们有一个固定容量的桶,桶里存放着令牌(token)。桶一开始是空的,token以 一个固定的速率r往桶里填充,直到达到桶的容量,多余的令牌将会被丢弃。每当一个请求过来时,就会尝试从桶里移除一个令牌,如果没有令牌的话,请求无法通 过。
具体的伪代码实现如下:
  1. <?php
  2. class TokenBucketDemo{
  3.     private  $timeStamp;
  4.     public  $capacity;// 桶的容量
  5.     public  $rate; // 令牌放入的速度
  6.     public  $tokens;// 当前令牌的数量


  7.     public function __construct()
  8.     {
  9.         $this->timeStamp = time();
  10.     }
  11.     public  function grant(){
  12.         $now=time();
  13.         $this->tokens=min(0,$this->tokens+($now-$this->timeStamp)*$this->rate);// 先执行漏水,计算剩余水量
  14.         $this->timeStamp=$now;
  15.         if($this->tokens<1){
  16.             // 若不到1个令牌,则拒绝
  17.             return false;
  18.         }else{
  19.             // 还有令牌,领取令牌
  20.             $this->tokens -= 1;
  21.             return true;
  22.         }

  23.     }

  24. }
复制代码

  • 临界问题
    临界问题

我们再来考虑一下临界问题的场景。在0:59秒的时候,由于桶内积满了100个token,所以这100个请求可以瞬间通过。但是由于token是以较低的 速率填充的,所以在1:00的时候,桶内的token数量不可能达到100个,那么此时不可能再有100个请求通过。所以令牌桶算法可以很好地解决临界问 题。下图比较了计数器(左)和令牌桶算法(右)在临界点的速率变化。我们可以看到虽然令牌桶算法允许突发速率,但是下一个突发速率必须要等桶内有足够的 token后才能发生
6.jpg
  • 总结
    计数器算法是最简单的算法,可以看成是滑动窗口的低精度实现。滑动窗口由于需要存储多份的计数器(每一个格子存一份),所以滑动窗口在实现上需要更多的存储空间。也就是说,如果滑动窗口的精度越高,需要的存储空间就越大。

漏桶算法 VS 令牌桶算法
漏桶算法和令牌桶算法最明显的区别是令牌桶算法允许流量一定程度的突发。因为默认的令牌桶算法,取走token是不需要耗费时间的,也就是说,假设桶内有100个token时,那么可以瞬间允许100个请求通过。
令牌桶算法由于实现简单,且允许某些流量的突发,对用户友好,所以被业界采用地较多。当然我们需要具体情况具体分析,只有最合适的算法,没有最优的算法。


附加:基于帝国CMS的计数器算法

demo.zip (1.62 KB, 下载次数: 0)
您需要登录后才可以回帖 登录 | 立即注册

本版积分规则

关闭

站长推荐上一条 /1 下一条

QQ|小黑屋|手机版|Archiver|PHPIN.NET ( 冀ICP备00000001号 )|网站地图  

GMT+8, 2018-10-23 10:49

Powered by Discuz! X3.4

© 2001-2017 Comsenz Inc.

快速回复 返回顶部 返回列表