服务发现：解密 LoadBalancer 本地服务列表缓存与刷新原理

在开展高可用分布式系统设计时，微服务调用方（如网关、订单服务）需要频繁向注册中心（如 Nacos、Eureka）索要目标微服务（如库存服务）的可用实例列表。如果在每次发起 HTTP RPC 请求时都实时向配置中心发送查询网络包，不仅会瞬间压满注册中心的网络带宽，还会大幅拉高接口请求的物理时延。

为了获取高性能的调用体验，Spring Cloud 社区引入了 **Spring Cloud LoadBalancer**。它默认在客户端内存中开启了**服务实例列表本地缓存（Local Service List Cache）**。每次路由选择时直接从本地缓存抓取实例信息，并通过反应式编程（Reactive Programming）机制定时或事件驱动式地刷新缓存。

本文将系统拆解 Spring Cloud LoadBalancer 的缓存分层架构、基于 ServiceInstanceListSupplier 的缓存失效刷新拓扑、以及在 Java 中自定义本地负载均衡缓存 TTL 的落地开发规范。

一、 核心对比：LoadBalancer 本地缓存与传统动态获取

客户端本地缓存实例列表与每次发起实时网络查询性能指标差异如下：

二、 LoadBalancer 缓存读取与订阅刷新拓扑

当网关利用 LoadBalancer 发起远程路由选择，并且注册表在后台发生变更时，其底层的缓存流转拓扑如下：

      [ 业务层发起远程调用 (feignClient.getInventory()) ]
                               │
                               ▼ 1. 拦截并触发 LoadBalancerClient 路由选择
              ┌────────────────┴────────────────┐
              ▼ 2a. 命中本地缓存 (Cache Hit)       ▼ 2b. 缓存失效 / 首次加载 (Cache Miss)
         [ 快速返回 ServiceInstance 列表 ]       [ 强制向 Nacos 发起物理拉取 ]
              │                                 │
              │                                 ▼ 3. 写入缓存 CachingServiceInstanceListSupplier
              │                                 - 存入 Flux<List<ServiceInstance>> 容器
              │                                 - 默认 TTL 设置为 35 秒
              │                                 │
              ▼ 4. 执行负载均衡算法选择一个健康节点  │
         ┌────┴────┐                            │
         ▼         ▼                            ▼ 5. 自动刷新防线 (Reactor 订阅)
      [ 实例 A ] [ 实例 B ] ◄───────────────────┴── - 默认定时调度器以 35s 间隔刷新
                                                    - Nacos 注册表主动推送监听器触发自愈

三、 代码实战：在 Java 中定制 Spring Cloud LoadBalancer 缓存策略

为了在大规模高并发生产环境中降低服务下线引起的“盲区调用报错”，我们可以通过自定义配置类，将本地缓存的 TTL 存活时间压缩，并装配自定义缓存管理器：

1. 基础设施层：动态缓存 TTL 装配配置类（Infra Layer）

package com.company.infra.lb.config;

import com.github.benmanes.caffeine.cache.Caffeine;
import org.springframework.boot.autoconfigure.condition.ConditionalOnMissingBean;
import org.springframework.cloud.client.loadbalancer.reactive.LoadBalancerProperties;
import org.springframework.cloud.loadbalancer.cache.LoadBalancerCacheManager;
import org.springframework.cloud.loadbalancer.cache.caffeine.CaffeineLoadBalancerCacheManager;
import org.springframework.context.annotation.Bean;
import org.springframework.context.annotation.Configuration;
import java.util.concurrent.TimeUnit;

@Configuration
public class CustomLoadBalancerCacheConfig {

    public static final String USERS_CACHE_NAME = "users-service-cache";

    /**
     * 核心规约一：采用 Caffeine 替换默认的内存 Map 缓存，增强高并发淘汰机制
     */
    @Bean
    @ConditionalOnMissingBean
    public LoadBalancerCacheManager loadBalancerCacheManager(LoadBalancerProperties properties) {
        // 自定义 Caffeine 缓存参数
        Caffeine<Object, Object> caffeineBuilder = Caffeine.newBuilder()
            // 核心规约二：将服务实例列表本地缓存生存时间（TTL）从默认的 35s 缩短至 5s，提升状态敏感度
            .expireAfterWrite(5, TimeUnit.SECONDS)
            // 限制最大缓存服务项为 500 个
            .maximumSize(500);

        CaffeineLoadBalancerCacheManager cacheManager = new CaffeineLoadBalancerCacheManager(caffeineBuilder);
        // 注册特定的缓存命名空间
        cacheManager.getCache(USERS_CACHE_NAME);
        return cacheManager;
    }
}

2. 客户端配置文件 application.yml 开启缓存管理

spring:
  cloud:
    loadbalancer:
      cache:
        # 核心规约三：显式开启本地缓存，防止高并发下频繁向 Nacos 发送查询网络请求
        enabled: true

四、 总结

Spring Cloud LoadBalancer 的本地服务列表缓存与 Reactor 式定时刷新机制，是微服务集群中分摊物理注册中心 IO 压力、保障高并发路由效率的“缓冲仓”。

它通过**在调用方 JVM 内存中构筑轻量级的 ServiceInstanceListSupplier 缓存防线，使得高频的负载均衡算法能在微秒级内直接命中内存实体，避免了每次调用的网络开销；配合可配置的生命周期 TTL 与 Caffeine 强力淘汰策略，达成了高吞吐与强自愈的平衡**。掌握这套本地缓存管理机制、Caffeine 缓存管理器定制与 TTL 参数调优代码，是应对大规模容器弹性滚动发布、解决分布式路由调用滞后报错 of 必备核心看家本领！