当前位置：首页 > news >正文

分布式系统高并发：缓存策略与限流方案实践

news 2026/3/27 1:17:36

系统应对高并发需结合“缓存策略+限流方案”，缓存减少数据库压力，限流防止流量过载，两者协同保障系统稳定性。

一、缓存策略：多级缓存与更新机制

1. 缓存类型及选型

本地缓存（如Guava Cache）：
- 场景：高频访问的静态数据（如商品分类、配置参数）。
- 优势：毫秒级响应，无网络开销。
- 实现示例：
  java
  // Guava Cache配置：最大1000条，10分钟过期 Cache<String, String> localCache = CacheBuilder.newBuilder() .maximumSize(1000) .expireAfterWrite(10, TimeUnit.MINUTES) .build();
分布式缓存（如Redis）：
- 场景：多节点共享数据（如秒杀库存、用户会话）。
- 优势：支持集群扩展，数据一致性好。
- 实现示例：
```
java
```
  // Redis操作示例（Jedis客户端） try (Jedis jedis = new Jedis("localhost", 6379)) { jedis.set("seckill:stock:1001", "100"); // 存储库存 }

2. 缓存更新策略

主动更新：数据变更时同步更新缓存（如商品价格修改后立即更新Redis）。
过期更新：设置TTL（如1小时），过期后自动从DB加载并更新（适用于非实时数据）。
异步更新：通过Kafka消息队列异步刷新缓存（如订单支付后通知库存服务更新缓存）。

---

二、限流方案：算法与分布式实现

1. 核心限流算法智优达

算法	原理	适用场景	实现工具
计数器	固定窗口内统计请求数	简单场景（如接口QPS限制）	Redis原子操作
令牌桶	固定速率生成令牌，请求需取令牌	允许突发流量（如秒杀）	Guava RateLimiter
漏桶	固定速率处理请求，溢出丢弃	流量整形（如API网关）	队列+定时任务

2. 分布式限流实现（Redis+Lua）

Lua脚本（原子性保证）：

lua

-- KEYS[1]：限流key，ARGV[1]：阈值，ARGV[2]：时间窗口（秒） local key = KEYS[1] local limit = tonumber(ARGV[1]) local window = tonumber(ARGV[2]) local current = tonumber(redis.call('get', key) or "0") if current + 1 > limit then return 0 -- 限流 else redis.call('incr', key) if current == 0 then redis.call('expire', key, window) end return 1 -- 允许 end

Java调用示例：

java

// 调用Lua脚本判断是否限流 public boolean isAllowed(String key, int limit, int window) { try (Jedis jedis = jedisPool.getResource()) { return (Long) jedis.eval(script, Arrays.asList(key), Arrays.asList(String.valueOf(limit), String.valueOf(window))) == 1; } }