Dariusz Newecki

五个月前,我在 Hacker News 的一条评论中写下了这句话,但它毫无反响,这很正常,因为我把它埋在了功能清单的最底部。它值得更多关注,因为它用五个词概括了 CORE 的全部设计哲学。

它回答了以下问题。

每个 AI 编程环境最终都会面临同一个问题:当 AI 比检查更聪明时,谁说了算?

你的 linter 标记了一个模式。LLM 却能很有说服力地解释为什么这个案例是例外。你的架构规则禁止跨层导入。代理却有真正聪明的理由认为就这一次没问题。如果你诚实的话,有时它确实是对的。模型对代码库的推理能力确实比规则更强。

所以诱惑在于让智能来裁决。让最聪明的组件拥有最终决定权。让规则成为建议,而推理成为主权。

这就是陷阱。一个智能凌驾于法律之上的系统根本没有法律。它只有建议,以及一个非常能言善辩的实体来决定这些建议何时适用。每一次“合理的例外”,在六个月后的审计轨迹中,都无法与一场精心包装的违规行为区分开来。

CORE 反其道而行之。宪法存在于一个名为 .intent/ 的目录中——规则作为数据:YAML,由确定性引擎检查,并在硬停止时强制执行。治理仓库的自治守护进程无法写入该目录。不是“被指示不要写入”。而是“无法”——写入路径在分析时、运行时和提交时都被三个独立的阶段阻断。

但人们忽略了这一点,也是这句话结尾的意义所在。

我自己也无法绕过它。

我是治理者。我拥有机器的 root 权限、仓库的管理员权限,以及每条规则的编写权。当我想修改一条规则时,我必须走同一条受治理的路径:草稿、审核、带有我名字的审计轨迹条目。宪法不知道也不在乎我今天是房间里最聪明的人。当我自己的提交违反 docs-integrity 规则时,审计系统标记了我。我花了一个周六来修复自己的仓库,因为我构建的系统约束了我自己。

这种不对称性——法律高于系统中的每一种智能,无论人工还是人类——正是审计轨迹有意义的原因。如果任何参与者都能即时裁决例外,轨迹记录的只是结果,而不是权限。你知道发生了什么变化,但不知道是什么允许了这种变化。在受监管的环境中,审计员唯一会问的问题就是第二个问题。

实际结果几乎是乏味的:CORE 中最聪明的组件(一个基于 LLM 的意图判断引擎)在报告模式下运行,直到受治理的决策将其提升。智能提出建议。法律作出决定。系统中最强大的推理者拥有的权限与宪法赋予它的权限完全相同,不会多一个合并。

构建代理系统的人不断在问如何让 AI 更对齐、更谨慎、更可信。错误的层面。应该构建一个系统,让可信度根本不是参与者的属性。那样无论参与者变得多聪明都无所谓。

法律凌驾于智能之上。包括我们的智能。尤其是我们的智能。

CORE 是开源的:https://github.com/DariuszNewecki/CORE