接口限流

简述

有时候，接口对外提供服务的时候，需要保护我们的接口，避免并发过大导致系统瘫痪。

限流算法

常用的限流算法存在两种:漏桶算法和令牌桶算法。
漏桶算法：故名思意，就是桶下面有个洞，以恒定的速率处理请求，请求过来放入桶中，请求量大于桶的容量益处，则拒绝服务。

令牌桶算法:令牌桶算法是一个存放固定容量令牌的桶，按照固定速率往桶里添加令牌。令牌桶算法的描述如下： 假设限制2r/s，则按照500毫秒的固定速率往桶中添加令牌； 桶中最多存放b个令牌，当桶满时，新添加的令牌被丢弃或拒绝； 当一个n个字节大小的数据包到达，将从桶中删除n个令牌，接着数据包被发送到网络上； 如果桶中的令牌不足n个，则不会删除令牌，且该数据包将被限流（要么丢弃，要么缓冲区等待）

限流工具类RateLimiter

Google开源工具包Guava提供了限流工具类RateLimiter，该类基于令牌桶算法来完成限流，非常易于使用。

方法摘要

举例

一个秒杀活动限流例子。每秒限流10个请求

import com.google.common.base.Stopwatch;
import com.google.common.util.concurrent.RateLimiter;

import java.util.concurrent.ThreadLocalRandom;
import java.util.concurrent.TimeUnit;
import java.util.concurrent.atomic.AtomicInteger;

/**
 * @author td
 * @date 2017/09/13
 */
public class TokenBucket {
    private AtomicInteger phoneNumbers = new AtomicInteger(0);

    private final static int LIMIT = 100;

    private RateLimiter rateLimiter = RateLimiter.create(10);

    private final  int saleLimit;

    public TokenBucket() {
        this(LIMIT);
    }

    public TokenBucket(int saleLimit) {
        this.saleLimit = saleLimit;
    }

    public int buy() {

        Stopwatch stopwatch = Stopwatch.createStarted();
        boolean success = rateLimiter.tryAcquire(10, TimeUnit.MILLISECONDS);
        if (success) {
            int phoneNum = phoneNumbers.getAndIncrement();
            if (phoneNum>=saleLimit) {
                throw new IllegalStateException("not any phone can be sale,please wait to next time.");
            }
            handleOrder();
            System.out.println(Thread.currentThread()+"user  get the phone "+phoneNum+",ELT:"+stopwatch.stop());

            return phoneNum;
        }else {
            stopwatch.stop();
            throw new RuntimeException("Sorry,occur excepiton when buy phone");

        }
    }

    private void handleOrder() {
        try {
            TimeUnit.SECONDS.sleep(ThreadLocalRandom.current().nextInt(10));
        } catch (InterruptedException e) {
            e.printStackTrace();
        }
    }


}

/**
 * @author td
 * @date 2017/09/13
 */
public class TokenBucketExample {
    public static void main(String[] args) {
        final  TokenBucket tokenBucket = new TokenBucket();
        for (int i=0;i< 200;i++) {
            try {
                Thread.sleep(10);
            } catch (InterruptedException e) {
                e.printStackTrace();
            }

            new Thread(tokenBucket::buy).start();
        }
    }
}