做网站要注册公司吗,景点网站怎么做,公司网站备案好处,东大桥网站建设前言在实际项目中#xff0c;为了保障服务器的稳定运行#xff0c;需要对接口的可访问频次进行限流控制#xff0c;避免因客户端频繁请求导致服务器压力过大。而AspNetCoreRateLimit[1]是目前ASP.NET Core下最常用的限流解决方案。查看它的实现代码#xff0c;我发现它使用… 前言在实际项目中为了保障服务器的稳定运行需要对接口的可访问频次进行限流控制避免因客户端频繁请求导致服务器压力过大。而AspNetCoreRateLimit[1]是目前ASP.NET Core下最常用的限流解决方案。查看它的实现代码我发现它使用的固定窗口算法。var entry await _counterStore.GetAsync(counterId, cancellationToken);if (entry.HasValue)
{// entry has not expiredif (entry.Value.Timestamp rule.PeriodTimespan.Value DateTime.UtcNow){// increment request countvar totalCount entry.Value.Count _config.RateIncrementer?.Invoke() ?? 1;// deep copycounter new RateLimitCounter{Timestamp entry.Value.Timestamp,Count totalCount};}
}固定窗口算法固定窗口算法是将时间线划分为固定大小的窗口并为每个窗口分配一个计数器。每个请求根据其到达时间被映射到一个窗口。如果窗口中的计数器已达到限制则拒绝落在此窗口中的请求。例如如果我们将窗口大小设置为1分钟每分钟允许10个请求59秒的请求将被阻止,因为这时已经接受了10个请求。1分钟时计数器归零所以1分01秒的请求可以接受。固定窗口算法的问题主要在于如果在窗口边缘发生大量请求会导致限流策略失效。比如在59秒接收了9个请求在1分01秒又可以再接收10个请求相当于每分钟允许了20个请求。滑动窗口算法滑动窗口类似于固定窗口算法但它通过将前一个窗口中的加权计数添加到当前窗口中的计数来计算估计数如果估计数超过计数限制则请求将被阻止。具体公式如下估计数 前一窗口计数 * (1 - 当前窗口经过时间 / 单位时间) 当前窗口计数例如假设限制为每分钟10个窗口[00:00, 00:01)中有9个请求窗口[00:01, 00:02)中有5个请求。对于01:15到达的请求即窗口[00:01, 00:02)的25%位置通过公式计算请求计数9 x (1 - 25%) 5 11.75 10. 因此我们拒绝此请求。即使两个窗口都没有超过限制请求也会被拒绝因为前一个和当前窗口的加权和确实超过了限制。实现根据上面的公式实现滑动窗口算法代码如下public class SlidingWindow
{private readonly object _syncObject new object();private readonly int _requestIntervalSeconds;private readonly int _requestLimit;private DateTime _windowStartTime;private int _prevRequestCount;private int _requestCount;public SlidingWindow(int requestLimit, int requestIntervalSeconds){_windowStartTime DateTime.Now;_requestLimit requestLimit;_requestIntervalSeconds requestIntervalSeconds;}public bool PassRequest(){lock (_syncObject){var currentTime DateTime.Now;var elapsedSeconds (currentTime - _windowStartTime).TotalSeconds;if (elapsedSeconds _requestIntervalSeconds * 2){_windowStartTime currentTime;_prevRequestCount 0;_requestCount 0;elapsedSeconds 0;}else if (elapsedSeconds _requestIntervalSeconds){_windowStartTime _windowStartTime.AddSeconds(_requestIntervalSeconds);_prevRequestCount _requestCount;_requestCount 0;elapsedSeconds (currentTime - _windowStartTime).TotalSeconds;} var requestCount _prevRequestCount * (1 - elapsedSeconds / _requestIntervalSeconds) _requestCount 1;if (requestCount _requestLimit){_requestCount;return true;}}return false;}
}如果最近的2次请求相距2个窗口时间则可以认为前一窗口计数为0重新开始计数。使用新建Middleware使用滑动窗口算法进行限流public class RateLimitMiddleware : IMiddleware
{private readonly SlidingWindow _window;public RateLimitMiddleware(){_window new SlidingWindow(10, 60);}public async Task InvokeAsync(HttpContext context, RequestDelegate next){if (!_window.PassRequest()){context.SetEndpoint(new Endpoint((context) {context.Response.StatusCode StatusCodes.Status403Forbidden;return Task.CompletedTask;},EndpointMetadataCollection.Empty,限流));}await next(context);}
}需要注意的是我们注册Middleware时必须使用单例模式保证所有请求通过同一SlidingWindow计数services.AddSingletonRateLimitMiddleware();结论使用滑动窗口算法可以有效避免固定窗口算法存在的窗口边缘大量请求无法限制的问题。想了解更多内容请关注我的个人公众号”My IO“参考资料[1]AspNetCoreRateLimit: https://github.com/stefanprodan/AspNetCoreRateLimit
