What is an Agent Harness?のカバー画像

Shashi Kanth

Agent Harnessとは、大規模言語モデル(LLM)を安全にラップし、そのメモリ、ツール、実行境界、および決定論的なポリシー適用を管理する包括的なアプリケーション層です。エンジニアがシンプルな会話型チャットボットから完全な自律型AIエージェントの構築に移行する際、よく犯す致命的な誤りは、大規模言語モデル(LLM)をシステム全体として扱ってしまうことです。

現実には全く異なります。LLMはエージェントではありません。LLMが提供するのは推論エンジンだけで、それ以外の何物でもありません。

そのエンジンの周りに構築するすべてのもの—メモリ、ツールの実行、計画機能、コンテキストのルーティング、セキュリティ境界—がAgent Harnessです。

Agent Harnessが重要な理由

LLMが車のエンジンだとすれば、ハーネスはハンドル、ブレーキ、トランスミッション、ダッシュボードに相当します。

エージェントに本番用データベース、クラウドインフラストラクチャ、またはプライベートな顧客記録へのアクセス権を与える場合、モデルの内部プロンプト指示のみに依存して安全性を確保するのは不十分です。モデルは幻覚を起こし、敵対的入力(プロンプトインジェクションなど)に影響されやすく、本質的に非決定論的です。システムが不正なアクションに対する唯一の防御策が「データベースを削除するな」というシステムプロンプト内の文である場合、そのシステムは本番環境に対応していません。

堅牢なAgent Harnessは、非決定論的なLLMが欠いている決定論的な保証を提供します。これはモデルを安全にラップするアプリケーション層として機能し、モデルが閲覧できるコンテキスト、呼び出しを許可されたツール、全体的な実行を制約するポリシーを正確に管理します。

エンタープライズ向けAgent Harnessのアーキテクチャ

エンタープライズ環境では、完全なAgent Harnessの定義は、単一の開発者がアプリケーションプログラムコードベースで実装できる範囲をはるかに超えます。フルスケールのエンタープライズハーネスは、以下のような大規模なインフラストラクチャコンポーネントと交差します。

  • クラウドIAM(Identity and Access Management)
  • 企業データガバナンスプラットフォーム(Microsoft Purviewなど)
  • コンプライアンスおよび監査パイプライン
  • ネットワークセキュリティおよびサンドボックス化されたVPC

完全な実装は組織固有のクラウドアーキテクチャとセキュリティポリシーに大きく依存するため、単一の汎用コードベースを提供することは不可能です。

ただし、できることは、主要なエンジニアリング概念を具体的なソフトウェア設計パターンに分解することです。

本シリーズの概要

本シリーズでは、独自のエージェントハーネスを構築する際に考慮すべき、異なるパターンのコレクションを紹介します。

これらのパターンは、エンタープライズ展開におけるすべてのインフラストラクチャ上のニュアンスを網羅するものではありませんが、コード内でエージェントを効果的に管理するために必要な基本的なソフトウェアアーキテクチャを提供します。各パターンについて、LangGraphなどのフレームワークを使用した実用的な実装を確認し、OWASP、Google、Anthropic、Microsoft、OpenAIなどの信頼できる業界パブリッシャーが定めた用語とガイドラインを使用してそれらを結びつけます。

それぞれが独自の専用記事で詳述される、12のコアパターンを探ります。

  1. Tool Privilege Broker
  2. HITL Approval Gate
  3. Decision Trace and Audit
  4. Cost and Tool Budgeting
  5. Redaction Boundary
  6. Prompt Injection and Goal Hijacking
  7. RAG Access Control and Provenance
  8. Memory Isolation
  9. Sandboxed Execution
  10. Agent Evaluations
  11. CI/CD Evaluation Gates
  12. Agent Lifecycle Profile

まず、推論とアクションの境界を定義する最初のトピックに進みましょう。