エージェント人口の統治

私が耳にした最大のガバナンス上の懸念のひとつは、エージェントの「アイデンティティ」をめぐるものです。エージェント自体は人間と同様に完全に自律的であり得るため、人間と同様の識別が必要であることを理解する必要があります。エージェントが自称どおりのエージェントであることを検証する要件があります。すべてのエージェントが MCP サーバーが提供するすべてのツールにアクセスできるべきではないという要件もあります。また、エージェントが人間に代わって行動できる場合もあることは事実です。特に個人の生産性エージェントの場合です。

これらの点に沿って、私はエージェントを識別するだけでなく、エージェントが従うべきビジネス倫理規範を確立したいと考えています。これにより、エージェントは頻繁に設計に再調整されます。エージェント（特に自律的なもの）の行動を監視し、その「脳」（LLM）を定期的に評価する必要があります。このビジョンを実現するための考えは百万と二つありますが、本当にここでそれらを吐き出します。