RPC 限流策略

程序员朱永胜2024-10-212024-11-12

有的时候博客内容会有变动，首发博客是最新的，其他博客地址可能会未同步, 认准 https://blog.zysicyj.top

全网最细面试题手册，支持艾宾浩斯记忆法。这是一份最全面、最详细、最高质量的 java 面试题，不建议你死记硬背，只要每天复习一遍，有个大概印象就行了。https://store.amazingmemo.com/chapterDetail/1685324709017001`

Remote Procedure Call (RPC) 是一种通过网络从远程计算机程序上请求服务的技术。在高并发环境下，RPC 的限流策略尤为重要，以确保系统的稳定性和可用性。以下是一些常见的 RPC 限流策略:

这是最简单的限流方法。服务端为每一个时间窗口（比如每秒）设置一个最大请求量（计数器）。当请求到达时，计数器增加，如果计数器超出最大值，则拒绝服务；时间窗口结束后，计数器重置。

漏桶算法可以想象成一个水桶，不论来多少水流，水桶以固定速率往外漏水。对于网络请求来说，请求先被加入到桶中，服务端以固定的速率处理这些请求。如果桶满了，新来的请求就会被拒绝。

令牌桶算法与漏桶类似，但更为灵活。服务端以固定速率放入令牌到桶中，每个请求来临时需要消耗一个令牌才能被处理。如果桶内没有令牌，请求则被暂时阻塞，直到桶中有令牌。这允许某种程度的突发流量，因为桶内可以存储一些令牌。

使用队列可以实现请求的缓存和异步处理。当请求量超出处理能力时，请求会在队列中等待，直到有可用资源来处理这些请求。队列同样可以配置最大长度，以防止内存溢出。

动态限流策略根据系统当前的负载情况动态调整限流阈值，可以使用一些自适应算法，例如 PID 控制器，它可以依据系统的实际响应时间来增加或减少通过的请求量。

在分布式系统中，单一服务的多个实例可能会部署在不同的服务器上，为了有效地进行全局限流，可以采用中心化的限流服务器或分布式协调服务（如 ZooKeeper）来同步不同实例的限流策略。

总结，选择合适的限流策略取决于你的业务需求和系统的特性。在实际应用中，通常会根据场景选择一种或几种结合使用的策略来确保 RPC 服务的稳定。各种限流策略都有自己的优缺点，重要的是要理解他们的机制，正确地将其用于恰当的场合。