关于限流的若干探讨

限流

限流在保障系统稳定和避免过载，起着举足轻重的作用。

限流在形式上主要有三种形式：

• 无等待队列
• 有等待队列
• 异步处理请求

无等待队列

只是限制总的访问量，一旦达到总访问量阈值，直接拒绝访问. 此处的访问量阈值取决于具体的网络环境。

// 信号量的定义public static Integer MAX_VISITOR_VOLUME = 100;public static Semaphore semaphore = new Semaphore(MAX_VISITOR_VOLUME);public void request() {    // 流量控制    // 存在等待队列，意味着请求量已经超过 MAX_VISITOR_VOLUME，则直接返回    if (semaphore.getQueueLength() > 0) {        return;    }    try {        // 获取一个信号量，获取不到则等待        semaphore.acquire();        // TODO 业务处理    } catch (InterruptedException e) {        e.printStackTrace();    } finally {        // 释放一个信号量        semaphore.release();    }}

有等待队列

允许一定量的请求等待，适用于IO密集型的应用，等待队列的长度取决于网络IO和硬盘IO

// 信号量的定义public static Integer MAX_VISITOR_VOLUME = 100;public static Integer MAX_WAIT_QUEUE_LENGTH = 40;public static Semaphore semaphore = new Semaphore(MAX_VISITOR_VOLUME);public void request() {    // 流量控制    // 等待队列的长度超过 MAX_WAIT_QUEUE_LENGTH，则直接返回    if (semaphore.getQueueLength() > MAX_WAIT_QUEUE_LENGTH) {        return;    }    try {        // 获取一个信号量，获取不到则等待        semaphore.acquire();        // TODO 业务处理    } catch (InterruptedException e) {        e.printStackTrace();    } finally {        // 释放一个信号量        semaphore.release();    }}

异步处理

当用户请求到来时，立即返回。而请求的数据压入消息队列。后端通过不断的轮训消息队列，进行业务处理