あなたの知能はどこにあるのか？脳の中か？

それは単純すぎる答えだ。より優れたモデルは、あなたの知能は身体化されているというものだ。

高級レストランで働く料理人を考えてみよう。彼はお気に入りの包丁や調理手順を、すべて望む場所に置いている。彼のキッチンは彼の知能やスキルの一部である。あなたのキッチンで働く同じ料理人は、おそらくあなたよりも上手に料理できるだろうが、彼のお気に入りのキッチンで作るような食事は再現できないだろう。

私たちはしばしば、ホワイトボードテストを使ってコンピュータプログラマーを評価する。これは endless source of complaints である。プログラマーは、自分が自分の環境から切り離されることを正しく指摘する。ノートパソコンを取り上げられると、彼らはただ同じようには優れていないのだ。これは言い訳ではなく、本当の問題である。あなたは彼らを、彼らを賢くしている要素の一部から切り離しているのだ。

要するに、脳だけが瓶の中に入っていて他の何ともつながっていないという知能モデルは、ばかげている。

身体化された知能という考えを受け入れるなら、私たちが知能の結果として見なす多くの行動は、実際には知能の一部であることがわかる。まず第一に、言語である。私たちが互いに話したり書いたりする能力は、私が自分自身の個人に限定されないことを意味する。小さな部族に孤立した人間たちが技術的なブレークスルーを達成したという話を聞いたことがあるだろうか？いや。進歩には、多くの人々が一緒にコミュニケーションすることが必要だ。数十年前までは、進歩には都市が必要だった。今日、私はそれがそうであることに以前ほど確信を持っていない。なぜなら、私はますます世界中の誰とでも、どこからでもコミュニケーションできるようになっているからだ。しかし、言語は依然として重要であり、私たちはそれよりも優れたものを発明していない。同様に、手を持ち、ノートパソコンなどの洗練されたツールを構築する能力は、私たちの知能を拡張することを可能にする。

2022年末、私たちは画期的な技術を手に入れた：ChatGPTである。これは、(大規模な)言語モデル、ニューラルネットワークなど、いくつかの既存のアイデアに基づいて構築された。それが「GPT」の部分だ。しかし、過小評価されがちな重要な部分は「Chat」の要素だった。誰かが大規模言語モデルをチャットインターフェースに接続するというアイデアを持っていた。おそらくこのシステムを構築する人々にとっては自然で当然のことのように思えたかもしれないが、それが些細で重要でないと仮定すべきではない。

言語は私たちの知能の重要な要素であり、したがって、機械知能にとって重要であることは理にかなっている。

私たちはAIソフトウェアをチャットボックスに身体化した。

次のステップは、今日「エージェント型AI」と呼ばれるものだった。チャットボックスを維持しつつ、AIソフトウェアにツールと相互作用し、それらを使用するための計画を立てる能力を追加する。事実上、AIにより多くの主体性を与える：それは物事を行うことができ、起こった結果から学ぶことができる。それは、手とツールを持つ人間に似始める。

私は今週、同僚と話していた。私の同僚はAI革命に完全に賛成している。彼はAIを使ってより良く速く書くのを助け、技術専門家の助けをあまり必要とせずにデータ分析をより速く完了させる。

しかし、私の同僚はエージェント型AIのアプローチを知らなかった。私は電話で説明しようとした。AIにツールへのアクセスを与えるとはどういう意味か？これはAIの応答をコピーして貼り付ける手間を省くことだけなのだろうか？

結局、私はビデオを作成した。そこで私はRStudioと呼ばれるものの中でシェルでAIを起動する。人々がRでプログラミングしたりデータ分析をしたりするために使用する環境である。私はRやRStudioを使わないが、AIのおかげで、数分で気候研究プロジェクト全体を構築することができた。ウェブからのデータ取得も含めて。

AIはどうやってそれをしたのか？私はそれを録画した。最初はデータをダウンロードするのに苦労しながら、いくつかのことを試みた。ある時点で、新しいRパッケージが必要であることに気づき、それをインストールする。インストールされると、図の生成に進むことができ、それが機能することを確認できる。

エージェント型AIは、AIの身体化を改善することによって、機械知能を大幅に拡張する。

私は、それが本来あるべきように理解されていないと信じている。

モントリオールで、AI分野で最も確立された教授はYoshua Bengioである。彼は数年前に独自の非凡な企業（Element AI）を立ち上げた。彼の最新の事業はLaw Zeroで、Scientist AIを作成することを目指している。このプロジェクトの最初の目標は、エージェント型のコンポーネントなしでAIを構築することである。それは、独自の目標を持たず、主体性を持たない、身体化されていないAIであるべきだ。

私はBengioがKevin KellyがThinkismと呼んだものに苦しんでいるのではないかと懸念している。Kellyの2008年のエッセイから引用しよう。

どんなに優れた知能であっても、世界中の既知の科学的文献をすべて読み、それを熟考するだけで人体がどのように機能するかを理解することはできない。どんなに優れたAIであっても、現在および過去のすべての核分裂実験について考えるだけで、1日で機能する核融合を考え出すことはできない。物事がどのように機能するかを知らないことと知っていることの間には、thinkism以上のものがある。実世界での実験は膨大な量のデータを生み出し、それが正しい作業仮説を形成するために必要となる。潜在的なデータについて考えるだけでは、正しいデータは得られない。思考は科学の一部に過ぎない。おそらく小さな部分でさえある。(…) Thinkismだけでは十分ではない。実験を行い、プロトタイプを構築し、失敗し、現実に関与することなしに、知能は思考を持つことはできても結果を持つことはできない。それは世界の問題を解決するために考えることはできない。(…) シンギュラリティは常に後退し続ける幻想であり、常に「近い」が決して到達しない。私たちはAIを手に入れた後に、なぜそれが来なかったのか不思議に思うだろう。そして未来のある日、私たちはそれがすでに起こっていたことに気づくだろう。スーパーAIは来て、私たちが即座にもたらすと思っていたすべてのもの—個人的なナノテクノロジー、脳のアップグレード、不死—は来なかった。代わりに、私たちが予想していなかった他の利点が蓄積され、評価するのに長い時間がかかった。私たちはそれらが来るのを見ていなかったので、振り返って、そう、それがシンギュラリティだったと言うだろう。

私は、大学教授が特にthinkismに陥りやすいと信じている。彼らは知能が脳の中で起こっていることに集中していると見なす。象牙の塔に住んでいると、現実世界を知能の核心的な源泉として dismissing するのは簡単だ。さらに、彼らはしばしば、学校でthinkismが自然に広がっている中でかなりうまくやった人々である。

私は人生のほとんどを教授として過ごしてきた。しかし、私は他の教授と話すことにすぐに疲れる。私は最も楽しむのは、新しいツールを現実世界で適用している人々と働くことだ。驚くことではないが、私は人々が現実世界に展開するソフトウェアと働くことにほとんどの時間を費やしている。

Kellyが言っているのは、高度の知能だけでは何も大したことをできないということだ。現実世界はあなたの思考プロセスの最終段階ではない。それはおそらくその最も重要な部分である。

そしてしたがって、AIを現実世界とつなげ、実験を実行する能力を与えるとき（今日のほぼすべてのソフトウェア開発者が行っているように）、あなたはAIソフトウェアだけではできないことをはるかに超える印象的な結果を得る。

主体性は機能ではない。主体性は一次的である。