What is an Agent Harness? 封面图

Shashi Kanth

Agent Harness 是一个全面的应用层，它安全地封装大型语言模型（LLM），以管理其记忆、工具、执行边界以及确定性策略执行。当工程师从构建简单的对话式聊天机器人转向完全自主的 AI 代理时，通常会犯一个关键错误：他们把大型语言模型（LLM）当作整个系统。

实际情况截然不同。LLM 不是代理。LLM 只提供推理引擎，其他什么都不提供。

我们围绕该引擎构建的所有其他部分——记忆、工具执行、规划能力、上下文路由和安全边界——统称为Agent Harness。

为什么 Agent Harness 很重要

如果把 LLM 比作汽车的发动机，那么 harness 就相当于方向盘、刹车、变速箱和仪表盘。

当你赋予代理访问生产数据库、云基础设施或私人客户记录的权限时，仅仅依赖模型内部的提示指令来保证安全是不够的。模型会产生幻觉，容易受到对抗性输入（如提示注入）的影响，而且本质上是非确定性的。如果对异常行为的唯一防御只是系统提示中的一句话——“不要删除数据库”——那么你的系统尚未做好生产就绪的准备。

健壮的 Agent Harness 提供了非确定性 LLM 所缺少的确定性保障。它作为应用层安全地封装模型，精确控制模型可以查看的上下文、被授权调用的工具，以及约束其整体执行的策略。

企业级 Agent Harness 的架构

在企业环境中，定义完整的 Agent Harness 远超单个开发者在应用代码库中能够实现的内容。全规模的企业级 harness 会与大规模基础设施组件交汇，例如：

  • 云 IAM（身份与访问管理）
  • 企业数据治理平台（如 Microsoft Purview）
  • 合规与审计流水线
  • 网络安全与沙箱 VPC

由于完整实现高度依赖组织的具体云架构和安全策略，因此无法提供单一、通用的代码库。

然而，我们可以做的是将核心工程概念拆解为具体的软件设计模式。

本系列内容概览

在本系列中，我将分享构建自己的 agent harness 时需要考虑的一系列不同模式。

虽然这些模式无法涵盖企业部署的所有基础设施细节，但它们将为你提供在代码中有效管理代理所需的基础软件架构。对于每种模式，我们将结合 LangGraph 等框架进行实际实现，并使用 OWASP、Google、Anthropic、Microsoft 和 OpenAI 等受信任的行业出版物所确立的术语和指南进行串联。

我们将探讨 12 种核心模式，每种模式都将在独立文章中详细介绍：

  1. Tool Privilege Broker
  2. HITL Approval Gate
  3. Decision Trace and Audit
  4. Cost and Tool Budgeting
  5. Redaction Boundary
  6. Prompt Injection and Goal Hijacking
  7. RAG Access Control and Provenance
  8. Memory Isolation
  9. Sandboxed Execution
  10. Agent Evaluations
  11. CI/CD Evaluation Gates
  12. Agent Lifecycle Profile

让我们深入第一个模式：定义推理与行动之间的边界。