mage0535

Memory Sidecar 已成为生产级 AI 工作流中与代理无关的记忆关键组件。3.5.1 版标志着从功能迭代转向运营成熟度,解决部署中观察到的实际痛点。本次发布未引入新 API 或模式,而是强化运行时行为,使其在负载、网络波动和对抗条件下可靠运行。

三个领域受到重点关注:连接弹性、缓存和可观测性。所有配置均可通过环境变量或挂载的配置文件进行调整,允许运维人员针对每种工作负载进行调优。

连接弹性

当后端记忆存储(如 Redis 或 SQL 后端)无响应时,sidecar 现在使用带指数退避重试的熔断器。连续失败次数达到可配置阈值后,熔断器打开,立即拒绝请求以防止级联超时。半开状态会定期探测后端恢复情况。重试包含抖动以避免惊群效应。

environment:
  MEMORY_SIDECAR_RETRY_MAX: "3"
  MEMORY_SIDECAR_RETRY_BASE_DELAY_MS: "500"
  MEMORY_SIDECAR_CIRCUIT_BREAKER_THRESHOLD: "5"
  MEMORY_SIDECAR_CIRCUIT_BREAKER_HALF_OPEN_AFTER_MS: "10000"

Enter fullscreen mode Exit fullscreen mode

这些是保护 sidecar 和上游存储所需的唯一参数。

近缓存层

读取操作是大多数代理交互的热路径。v3.5.1 添加了带可配置 TTL 和每会话命名空间的 LRU 内存缓存。这将重复查找的延迟从毫秒级降至微秒级,并降低存储后端负载。缓存默认禁用;仅在分析工作负载后启用。

MEMORY_SIDECAR_CACHE_ENABLED=true
MEMORY_SIDECAR_CACHE_SIZE=10000
MEMORY_SIDECAR_CACHE_TTL_SECONDS=300

Enter fullscreen mode Exit fullscreen mode

命名空间确保会话特定数据不会在缓存冲突时提供给其他会话。

可观测性

每个 gRPC 处理器现在都会发出带可从代理传播的 trace ID 的结构化日志。Prometheus 指标在 /metrics 暴露,涵盖请求延迟直方图、缓存命中/未命中率、熔断器状态转换和连接池利用率。专用的 /healthz/readyz 端点反映后端连接、缓存和 sidecar 内部状态的健康状况。

安全默认值

默认对所有 gRPC 连接强制执行 TLS。API 密钥身份验证为必选项;密钥必须通过 MEMORY_SIDECAR_API_KEY 环境变量或挂载在 /etc/memory-sidecar/key 的文件提供。生产构建中已移除调试端点。

升级路径

如果通过 hermes-memory-installer 部署,v3.5.1 现为新安装的默认镜像。现有部署可更新镜像标签并添加新环境变量。配置模式向后兼容,但请注意,缺少 MEMORY_SIDECAR_API_KEY 将导致 sidecar 启动失败——在 rollout 前请检查密钥。

这是一次纯加固发布。没有新的记忆操作、没有模式变更,也没有破坏性协议调整。升级以减少运营摩擦,并获得在生产环境中调试代理记忆行为所需的可观测性。