前言

本文隶属于专栏《100个问题搞定Java并发》,该专栏为笔者原创,引用请注明来源,不足和错误之处请在评论区帮忙指出,谢谢!

本专栏目录结构和参考文献请见100个问题搞定Java并发

正文

Guava

Guava 是 Google 下的一个核心库,提供了一大批设计精良、使用方便的工具类。

许多 Java 项目都使用 Guava 作为其基础工具库来提升开发效率,我们可以认为 Guava 是 JDK 标准库的重要补充。

RateLimiter

在这里,将给大家介绍 Guava 中的一款限流工具 RateLimiter 。

任何应用和模块组件都有一定的访问速率上限,如果请求速率突破了这个上限,不但多余的请求无法处理,甚至会压垮系统使所有的请求均无法有效处理。

因此,对请求进行限流是非常必要的。

RateLimiter 正是这么一款限流工具。

限流算法

一种简单的限流算法就是给出一个单位时间,然后使用一个计数器 counter 统计单位时间内收到的请求数量,当请求数量超过门限时,余下的请求丢弃或者等待。

但这种简单的算法有一个严重的问题,就是很难控制边界时间上的请求。

假设时间单位是 1 秒,每秒请求不超过 10 个。

如果在这一秒的前半秒没有请求,而后半秒有 10 个请求,下一秒的前半秒又有 10 个请求,那么在这中间的一秒内,就会合理处理 20 个请求,而这明显违反了限流的基本需求。

这是一种简单粗暴的总数量限流而不是平均限流。

因此,更为一般化的限流算法有两种: 漏桶算法和令牌桶算法。

漏桶算法

漏桶算法的基本思想是: 利用一个缓存区,当有请求进入系统时,无论请求的速率如何,都先在缓存区内保存,然后以固定的流速流出缓存区进行处理。

漏桶算法的特点是无论外部请求压力如何,漏桶算法总是以固定的流速处理数据。

漏桶的容积和流出速率是该算法的两个重要参数。

令牌桶算法

令牌桶算法是一种反向的漏桶算法。

在令牌桶算法中,桶中存放的不再是请求,而是令牌。

处理程序只有拿到令牌后,才能对请求进行处理。

如果没有令牌,那么处理程序要么丢弃请求,要么等待可用的令牌。

为了限制流速,该算法在每个单位时间产生一定量的令牌存入桶中。

比如,要限定应用每秒只能处理 1 个请求,那么令牌桶就会每秒产生 1 个令牌。

通常,桶的容量是有限的,比如,当令牌没有被消耗掉时,只能累计有限单位时间内的令牌数量。

RateLimiter正是采用了令牌桶算法

使用

下例展示了 RateLimiter的使用方法

import com.google.common.util.concurrent.RateLimiter;

public class RateLimiterDemo {
	static RateLimiter limiter = RateLimiter.create(2);

	public static class Task implements Runnable {
		@Override
		public void run() {
			System.out.println(System.currentTimeMillis());
		}
	}

	public static void main(String args[]) throws InterruptedException {
		for (int i = 0; i < 50; i++) {
			limiter.acquire();
			new Thread(new Task()).start();
		}
	}
}
1636378998188
1636378998691
1636378999191
1636378999692
1636379000187
1636379000686

从输出的时间戳可以看到每秒至多输出两条记录,起到了流量控制的效果。

当使用 acquire 方法时,过剩的流量调用会等待,直到有机会执行但在有些场景中,如果系统无法处理请求,为了保证服务质量,更倾向于直接丢弃过载请求,从而避免可能的崩溃,此时,则可以使用 IryAcquire() 方法,如下所示。

import com.google.common.util.concurrent.RateLimiter;

public class RateLimiterDemo2 {
	static RateLimiter limiter = RateLimiter.create(2);

	public static class Task implements Runnable {
		@Override
		public void run() {
			System.out.println(System.currentTimeMillis());
		}
	}

	public static void main(String args[]) throws InterruptedException {
		for (int i = 0; i < 50; i++) {
			if(!limiter.tryAcquire()) {
			    continue;
			}
			new Thread(new Task()).start();
		}
	}
}

当请求成功时, tryAcquire()方法返回 true ,否则返回 false ,该方法不会阻塞。

在本段代码中,如果访问数据量超过限制,那么超出部分则直接丢弃,不再进行处理。

根据前文的描述, limiter 仅支持 1 秒两次调用。

也就是每 500 毫秒可以产生一个令牌,显然由于 for 循环本身的效率很高,完全可以在 500 毫秒内完成,因此本段代码最终只产生一个输出其余请求全部被丢弃。

1636379123106
上一篇 下一篇