mage0535

Memory Sidecarは、本番AIワークフローにおけるエージェント非依存のメモリとして重要なコンポーネントとなりました。バージョン3.5.1は、機能追加の速度から運用成熟度への意図的な移行を示すものであり、実際のデプロイメントで観測された実務上の課題に対処します。このリリースでは新しいAPIやスキーマは導入されず、代わりに負荷、ネットワーク変動、敵対的条件下での信頼性を高めるためのランタイム動作を強化しています。

重点的に取り組んだのは、接続の回復力、キャッシュ、観測可能性の3つです。いずれも環境変数またはマウントした設定ファイルで構成可能で、オペレーターがワークロードごとに調整できます。

接続の回復力

バックエンドのメモリストア（RedisやSQLバックエンドなど）が応答しなくなった場合、Sidecarは指数バックオフによる再試行を伴うサーキットブレーカーを使用するようになりました。連続した失敗が設定可能な閾値に達するとサーキットが開き、カスケードタイムアウトを防ぐためにリクエストを即座に拒否します。ハーフオープン状態では定期的にバックエンドをプローブして回復を検知します。再試行にはジッターが含まれ、スラッシング herd を回避します。

environment:
  MEMORY_SIDECAR_RETRY_MAX: "3"
  MEMORY_SIDECAR_RETRY_BASE_DELAY_MS: "500"
  MEMORY_SIDECAR_CIRCUIT_BREAKER_THRESHOLD: "5"
  MEMORY_SIDECAR_CIRCUIT_BREAKER_HALF_OPEN_AFTER_MS: "10000"

Enter fullscreen mode Exit fullscreen mode

これらが、Sidecarと上流ストアの両方を保護するために必要な唯一の設定項目です。

ニアキャッシュレイヤー

読み取り操作はほとんどのエージェントインタラクションでホットパスです。v3.5.1では、TTLとセッションごとの名前空間を設定可能なLRUインメモリキャッシュを追加しました。これにより、繰り返しのルックアップでレイテンシをミリ秒からマイクロ秒に短縮し、ストレージバックエンドの負荷を低減します。キャッシュはデフォルトで無効化されており、ワークロードをプロファイリングした後にのみ有効化してください。

MEMORY_SIDECAR_CACHE_ENABLED=true
MEMORY_SIDECAR_CACHE_SIZE=10000
MEMORY_SIDECAR_CACHE_TTL_SECONDS=300

Enter fullscreen mode Exit fullscreen mode

名前空間により、セッション固有のデータが別のセッションに提供されることを防ぎます。キャッシュ衝突が発生しても同様です。

観測可能性

すべてのgRPCハンドラーが、エージェントから伝播可能なトレースID付きの構造化ログを出力するようになりました。Prometheusメトリクスは/metricsで公開され、リクエストレイテンシヒストグラム、キャッシュヒット/ミス率、サーキットブレーカーの状態遷移、コネクションプールの利用率をカバーします。専用の/healthzおよび/readyzエンドポイントは、バックエンド接続、キャッシュ、Sidecar内部状態の健全性を反映します。

セキュリティデフォルト

TLSはすべてのgRPC接続でデフォルトで強制されます。APIキーの認証は必須であり、キーはMEMORY_SIDECAR_API_KEY環境変数または/etc/memory-sidecar/keyにマウントされたファイルで提供する必要があります。デバッグエンドポイントは本番ビルドから削除されています。

アップグレードパス

hermes-memory-installer経由でデプロイする場合、v3.5.1は新規インストールのデフォルトイメージになりました。既存のデプロイメントはイメージタグを更新し、新しい環境変数を追加できます。構成スキーマは後方互換性がありますが、MEMORY_SIDECAR_API_KEYが存在しない場合、Sidecarは起動時に失敗します。ロールアウト前にシークレットを確認してください。

これは純粋な強化リリースです。新しいメモリ操作、スキーマ変更、プロトコルの破壊的変更はありません。運用摩擦を軽減し、本番環境でのエージェントメモリ動作をデバッグするために必要な観測可能性を得るためにアップグレードしてください。