在web應用中，同一時間有大量的客戶端請求同時發送到服務器，例如搶購、秒殺等。這個時候如何避免將大量的請求同時發送到業務系統。
第一種方法：在容器中配置最大請求數，如果大於改請求數，則客戶端阻塞。該方法有效的阻止了大量的請求同時訪問業務系統，但對用戶不友好。
第二種方法：使用過濾器，保證一定數量的請求能夠正常訪問系統，多餘的請求先跳轉到排隊頁面，由排隊頁面定時發起請求。過濾器實現如下：
public class ServiceFilter implements Filter {
private static final int MAX_COUNT = 20;
private AtomicInteger filterCount = 0;
public void doFilter(ServletRequest request, ServletResponse response,
FilterChain chain) throws IOException, ServletException {
System.out.println("before"+filterCount);
if(filterCount > MAX_COUNT) {
//請求個數太多，跳轉到排隊頁面
request.getRequestDispatcher("index.jsp").forward(request, response);
} else {
//請求個數加1
filterCount.incrementAndGet();
chain.doFilter(request, response);
//訪問結束，請求個數減1
filterCount.decrementAndGet();
}
}
此種方式的實現就是限流。可以參考RateLimiter的令牌桶限流策略的實現。
public class RateLimiterUtils {
private static Logger logger = LoggerFactory.getLogger(RateLimiterUtils.class);
private static final ConcurrentHashMap<String, RateLimiter> resourceLimitMap =
new ConcurrentHashMap<String, RateLimiter>();
/**
* 限流
* @param resource 需要限流的對象的標識
* @return true表示得到了許可，沒有達到限流閥值，false表示得不到許可，達到了限流閥值。
* @author: hejinen
* @date:2016年10月19日 上午11:08:49
*/
public static boolean rateLimit(String resource) {
RateLimiter limit = getRateLimit(resource);
return limit.tryAcquire();
}
/**
* 獲取某個需限流對象的RateLimiter，如不存在則創建新的
* @param resouce 需要限流的對象標識
*/
public static RateLimiter getRateLimit(String resource) {
RateLimiter limit = resourceLimitMap.get(resource);
if(limit == null) {
synchronized(RateLimiterUtils.class) {
limit = resourceLimitMap.get(resource);
double qps = getQpsByResource(resource);
if(limit == null) {
limit = RateLimiter.create(qps);
resourceLimitMap.put(resource, limit);
LoggerUtil.info(RateLimiterUtils.class, "create rate limiter for key:{0},QPS:{1}", resource,qps);
}
}
}
return resourceLimitMap.get(resource);
}
}