Dariusz Newecki

この文章を5ヶ月前にHacker Newsのコメントに書いたら、まったく反応がありませんでした。それも当然で、機能リストの最下部に埋もれていたからです。しかし、COREの設計哲学全体を5つの単語で表現しているため、より注目されるべきです。

これが答える問題とは何でしょうか。

すべてのAIコーディング環境は最終的に同じ質問に直面します：AIがチェックよりも賢くなったとき、誰が勝つのか？

リンターがパターンを指摘します。LLMは説得力のある説明で、このケースは例外だと主張します。アーキテクチャルールではレイヤー間のインポートを禁止しています。エージェントには、今回だけは問題ないという本当に賢明な理由があります。もし正直に認めれば、時にはその通りかもしれません。モデルはルールよりもコードベースについてより良く推論します。

そこで知性に判断を委ねたくなる誘惑があります。最も賢いコンポーネントに最終決定権を与えましょう。ルールを助言的なものにし、推論を主権的なものにします。

それが罠です。知性が法を上回るシステムには法が存在しません。提案事項と、それらが適用されるかどうかを決定する非常に雄弁な存在だけがあります。すべての「正当化された例外」は、6ヶ月後の監査証跡において、巧みなマーケティングのある違反と区別がつきません。

COREはこの逆転を図っています。憲法は.intent/というディレクトリに存在します — YAML形式のデータとしてのルール：決定論的エンジンによってチェックされ、ハードな停止で強制されます。リポジトリを管理する自律デーモンはそのディレクトリに書き込むことができません。「書き込まないよう指示されている」のではなく。分析時、実行時、コミット時の3つの独立した段階で書き込みパスがブロックされます。

しかし、人々が気づかない部分、そしてこの文がこのような形で終わる理由があります。

私自身もそれをバイパスすることはできません。

私はガバナーです。マシン上のroot権限、リポジトリの管理者権限、すべてのルールの作成者権限を持っています。そして、ルールを変更したい場合は、同じ管理されたパスを通らなければなりません：ドラフト、レビュー、私の名前が記された監査証跡エントリです。憲法は、私が今日部屋で最も賢い存在であることを知りませんし、気にもしません。私自身のコミットがdocs-integrityルールに違反したとき、監査が私をフラグ付けしました。私が構築したシステムが私を従わせたため、土曜日の時間を費やして自分のリポジトリを修正しました。

この非対称性 — システム内のすべての知性、人工的または人間的を上回る法 — が、監査証跡に意味を与えるものです。もしどのアクターもその場で例外を判断できるなら、証跡は結果を記録するだけで、権限は記録しません。何が変わったかはわかりますが、何がそれを許可したかはわかりません。規制された環境では、その2番目の質問こそが監査人が尋ねる唯一のものです。

実践的な結果はほとんど退屈なものです：COREで最も賢いコンポーネント（意図について推論するLLM-as-judgeエンジン）は、管理された決定によって昇格されるまで、レポーティングモードで実行されます。知性は提案します。法は処分します。システム内で最も能力のある推論者は、憲法が与えるのとまったく同じ権限を持ち、それ以上のマージ権限はありません。

エージェントシステムを構築する人々は、AIをより整列させ、より慎重に、より信頼できるものにする方法を尋ね続けています。間違ったレイヤーです。信頼性がアクターの特性ではないシステムを作りましょう。そうすれば、アクターがどれだけ賢くなっても問題になりません。

法は知性を上回ります。私たちの知性も含めて。特に私たちの知性です。

COREはオープンソースです: https://github.com/DariuszNewecki/CORE