2026 年 6 月 11 日 Responsibility & Safety

Google DeepMind, Schmidt Sciences, the Cooperative AI Foundation, ARIA and Google.org

Scaling AI Safety Research for a Multi-Agent World

これまでの 10 年間、私たちは個々の AI モデルをより高性能で役立ち、安全なものにすることに注力してきました。本日、Google DeepMind は Schmidt Sciences、Cooperative AI Foundation、Advanced Research and Invention Agency とともに、Google.org の支援を受けて、世界中の研究者を対象に最大 1,000 万ドルの技術研究助成プログラムを発表します。

AI 技術が拡大するにつれ、新たな時代が到来しつつあります。やがて、異なる組織によって構築された数百万の AI エージェントが、デジタル環境で相互にやり取りし、通信・交渉・取引を行うようになります。

これらのシステムが相互に作用する際は、安全かつ予測可能な方法で行わなければなりません。この変化は重要な機会をもたらします。独立したシステム同士が異なるネットワークで相互作用する際に生じる「目に見えない」安全リスクを、最初から AI エコシステム全体の安全性と安定性を強化することで解決できるのです。

助成プログラムは、大規模なマルチエージェント AI システムが集団としてどのように振る舞うか、そして潜在的なリスクを理解・軽減するための枠組みを提供する方法を研究するものです。世界中の研究者に力を与えることで、独立したシステムが異なるネットワークで相互作用する際に生じる「目に見えない」安全リスクの解決を目指します。

エージェント・エコシステムが重要である理由

大量の AI エージェントが相互作用すると、新たな集団行動や能力が突然現れることがあります。現在、これらの変化を予測・測定・監視するツールが不足しています。ほとんどの安全性評価はモデルを単独で分析します。しかし、私たちや他の研究者が以前に主張したように、自律的なエージェント同士の相互作用は、予測が難しい複雑な「創発的」行動を生み出す可能性があります。

これは新しい研究分野であるため、こうした変化がどのように起こるかを理解することが重要です。例えば、予測不能な経済活動の急増や新たなセキュリティ課題を引き起こす可能性はあるのでしょうか？こうしたシステム全体の行動を管理する方法を理解することが、私たちの主要な目標です。

マルチエージェント安全性研究の最前線を拡大する

マルチエージェント安全性の基礎的枠組みは存在しますが、これらのシステムの急速な進化に対応するため、研究の即時かつ大規模な拡大が必要です。

私たちの2025 年の研究は、これらの相互作用を理解するための枠組みを確立し、最近のAI Agent Trapsに関する研究では、敵対的な環境でエージェントが直面する脆弱性を探求しています。今こそ、より迅速に進める必要があります。マルチエージェント相互作用の複雑さが既存の安全性モデルを上回る危機的局面にあります。

この助成プログラムは、独立した研究者のグローバルネットワークを支援することで進展を加速させることを目的としています。多様な研究コミュニティは、安全基準がすべての人にとって透明性があり、堅牢であることを確保するために不可欠です。

この取り組みは、Schmidt Sciences のScience of Trustworthy AIおよびAI Agentsプログラムのミッションを推進するものであり、フロンティア AI システムから生じるリスクの理解と軽減に関する基礎研究を支援します。また、ARIA のScaling Trustプログラムは、新たな形態のサイバー物理マルチエージェント協調を実現することを目指しています。

共同行動への呼びかけ

どの研究機関も単独でマルチエージェント安全性の問題を解決することはできません。私たちは学術研究者および独立した研究者に、以下の 4 つの優先分野での提案を募集します。

  • サンドボックスとテストベッド: マルチエージェント安全性のあらゆる分野で進展を評価・比較・加速させる、現実的かつ再現可能な環境の構築。これには仮想マーケット、シミュレートされたエコシステム、および複数組織のワークフローが含まれます。
  • エージェント・ネットワークの科学: 相互作用するエージェント集団の安全性関連特性の理解。これには、集団能力がどのように創発・拡大するか、ネットワークがどのように失敗・不安定化するか、そして危険で予期しない集団レベルの特性をどのように検出するかの調査が含まれます。
  • エージェント基盤の強化: クロスプラットフォームでのエージェント相互作用を安全にするための、アイデンティティ・レピュテーション・コミットメントのプロトコルをストレス・テストすること。
  • 監督と制御: 展開されたエージェント集団を監視し、集団的な害を大規模に軽減する方法の開発。

参加方法

研究者の皆さまには、提案公募要領をご確認いただき、マルチエージェントの未来に向けた安全な基盤の構築にご参加いただきますようお願い申し上げます。

応募締切は 2026 年 8 月 8 日で、受賞者は 2026 年秋に発表される予定です。

技術要件および応募プロセスの詳細については、応募ポータルをご覧ください。