治理代理人口

我聽過的最大治理顧慮之一，圍繞著代理的「身分」。理解到代理本身可以像人類一樣完全自主，它們確實需要類似人類的識別。必須驗證它們就是它們所聲稱的代理。必須確保並非每一個代理都能存取 MCP 伺服器提供的所有工具。而且，代理在某些情況下確實可以代表人類行事，例如個人生產力代理。

沿著這些思路，我不僅想識別代理，還想建立一套代理應遵循的商業道德準則。這意味著代理必須經常重新對齊其設計。代理的行為（尤其是自主代理）應受到監控，其大腦（LLM）也應定期評估。我對如何實現這完整願景有無數想法，真的想在這裡好好發洩。