常用的限流算法有漏桶算法和令牌桶算法，guava的RateLimiter使用的是令牌桶算法，也就是以固定的頻率向桶中放入令牌，例如一秒鐘10枚令牌，實(shí)際業(yè)務(wù)在每次響應(yīng)請(qǐng)求之前都從桶中獲取令牌，只有取到令牌的請(qǐng)求才會(huì)被成功響應(yīng)，獲取的方式有兩種：阻塞等待令牌或者取不到立即返回失敗，下圖來(lái)自網(wǎng)上：

ratelimite原理圖

本次實(shí)戰(zhàn)，我們用的是guava的RateLimiter，場(chǎng)景是spring mvc在處理請(qǐng)求時(shí)候，從桶中申請(qǐng)令牌，申請(qǐng)到了就成功響應(yīng)，申請(qǐng)不到時(shí)直接返回失敗。

實(shí)例

1、添加guava jar包

    <dependency>
      <groupId>com.google.guava</groupId>
      <artifactId>guava</artifactId>
      <version>18.0</version>
    </dependency>

2、AccessLimitService.java 限流服務(wù)封裝到一個(gè)類中AccessLimitService，提供tryAcquire()方法，用來(lái)嘗試獲取令牌，返回true表示獲取到

@Service
public class AccessLimitService {

    //每秒只發(fā)出5個(gè)令牌
    RateLimiter rateLimiter = RateLimiter.create(5.0);

    /**
     * 嘗試獲取令牌
     * @return
     */
    public boolean tryAcquire(){
        return rateLimiter.tryAcquire();
    }
}

3、Controller層每次收到請(qǐng)求的時(shí)候都嘗試去獲取令牌，獲取成功和失敗打印不同的信息

@Controller
public class HelloController {

    private static SimpleDateFormat sdf = new SimpleDateFormat("yyyy-MM-dd HH:mm:ss");

    @Autowired
    private AccessLimitService accessLimitService;

    @RequestMapping("/access")
    @ResponseBody
    public String access(){
        //嘗試獲取令牌
        if(accessLimitService.tryAcquire()){
            //模擬業(yè)務(wù)執(zhí)行500毫秒
            try {
                Thread.sleep(500);
            }catch (InterruptedException e){
                e.printStackTrace();
            }
            return "aceess success [" + sdf.format(new Date()) + "]";
        }else{
            return "aceess limit [" + sdf.format(new Date()) + "]";
        }
    }
}

4、測(cè)試：十個(gè)線程并發(fā)訪問(wèn)接口

public class AccessClient {
    ExecutorService fixedThreadPool = Executors.newFixedThreadPool(10);

    /**
     * get請(qǐng)求
     * @param realUrl
     * @return
     */
    public static String sendGet(URL realUrl) {
        String result = "";
        BufferedReader in = null;
        try {
            // 打開和URL之間的連接
            URLConnection connection = realUrl.openConnection();
            // 設(shè)置通用的請(qǐng)求屬性
            connection.setRequestProperty("accept", "*/*");
            connection.setRequestProperty("connection", "Keep-Alive");
            connection.setRequestProperty("user-agent",
                    "Mozilla/4.0 (compatible; MSIE 6.0; Windows NT 5.1;SV1)");
            // 建立實(shí)際的連接
            connection.connect();

            // 定義 BufferedReader輸入流來(lái)讀取URL的響應(yīng)
            in = new BufferedReader(new InputStreamReader(
                    connection.getInputStream()));
            String line;
            while ((line = in.readLine()) != null) {
                result += line;
            }
        } catch (Exception e) {
            System.out.println("發(fā)送GET請(qǐng)求出現(xiàn)異常！" + e);
            e.printStackTrace();
        }
        // 使用finally塊來(lái)關(guān)閉輸入流
        finally {
            try {
                if (in != null) {
                    in.close();
                }
            } catch (Exception e2) {
                e2.printStackTrace();
            }
        }
        return result;
    }



    public void access() throws Exception{
        final URL url = new URL("http://localhost:8080/guavalimitdemo/access");

        for(int i=0;i<10;i++) {
            fixedThreadPool.submit(new Runnable() {
                public void run() {
                    System.out.println(sendGet(url));
                }
            });
        }

        fixedThreadPool.shutdown();
        fixedThreadPool.awaitTermination(Long.MAX_VALUE, TimeUnit.SECONDS);
    }

    public static void main(String[] args) throws Exception{
        AccessClient accessClient = new AccessClient();
        accessClient.access();
    }
}

部分請(qǐng)求由于獲取的令牌可以成功執(zhí)行，其余請(qǐng)求沒(méi)有拿到令牌，我們可以根據(jù)實(shí)際業(yè)務(wù)來(lái)做區(qū)分處理。還有一點(diǎn)要注意，我們通過(guò)RateLimiter.create(5.0)配置的是每一秒5枚令牌，但是限流的時(shí)候發(fā)出的是6枚，改用其他值驗(yàn)證，也是實(shí)際的比配置的大1。

以上就是快速實(shí)現(xiàn)限流的實(shí)戰(zhàn)過(guò)程，此處僅是單進(jìn)程服務(wù)的限流，而實(shí)際的分布式服務(wù)中會(huì)考慮更多因素，會(huì)復(fù)雜很多。

RateLimiter方法摘要

• 舉例來(lái)說(shuō)明如何使用RateLimiter，想象下我們需要處理一個(gè)任務(wù)列表，但我們不希望每秒的任務(wù)提交超過(guò)兩個(gè)：

//速率是每秒兩個(gè)許可
final RateLimiter rateLimiter = RateLimiter.create(2.0);
void submitTasks(List tasks, Executor executor) {
    for (Runnable task : tasks) {
        rateLimiter.acquire(); // 也許需要等待
        executor.execute(task);
    }
}

官方文檔：http://ifeve.com/guava-ratelimiter