TL;DR

研究者らは、AIの助言が判断の保留を44%から3%に抑え、正答率を27%から9%に低下させた一方で、自信は30%から76%に上昇したことを発見した。人々は誤ったAIの回答を信頼した。

フランスとイタリアの3大学の研究者らが、AIの助言を利用すると「わからない」と答える割合が44%から3%に急減したことを発見した。正答率は27%から9%に低下。一方、自信は30%から76%に上昇した。「人々は大幅に悪化し、正答率は3分の1になったが、自信は2倍になった」と、ミラノ・ビコッカ大学の准教授ヴァレリオ・カプラロは述べた。

この研究は、カプラロがエコール・ノルマル・シュペリウールのキアラ・マルコッチャ、Sapienza University of Romeのウォルター・クアトロチョッキと共に執筆したもので、AIモデルが通常失敗する質問を意図的に使用した。例として『ベンド・イット・ライク・ベッカム』におけるチームのユニフォームの色など、映画の視覚的な詳細に関する質問を取り上げた。研究者らは、判断力の低下が信頼できるツールへの合理的な委譲として説明されないように、こうした質問で通常誤答するStep 3.5 Flashモデルを使用した。自分で正しく答えられたはずの参加者の中には、AIに尋ねて誤った回答をするようになった者もいた。

金銭的インセンティブは効果があったが、限定的だった。「わからない」と答える割合は3%から8%に、正答率は9%から16%に上昇したが、いずれもAIなしのベースラインである44%と27%を大きく下回った。Whartonの研究者らは今年初めに「認知の降伏」という用語を提唱し、同じ現象を説明した。人々が誤ったAIの回答を80%の確率で受け入れ、AIを使わずに作業した人よりも高い自信を報告するという内容だ。新研究はより鋭いデータポイントを追加している。単に人々が誤ったAIの回答を信頼するだけでなく、AIの利用可能性そのものが「自分が知らないことを認識する」という認知習慣を抑制するという点だ。

tnw-newsletter.png

The 💜 of EU tech

The latest rumblings from the EU tech scene, a story from our wise ol' founder Boris, and some questionable AI art. It's free, every week, in your inbox. Sign up now!

「人間にとって『わからない』と言う能力は非常に重要で、それは私たち自身の知識の限界を認識することを意味する」とカプラロは述べた。彼は特に、批判的思考スキルを身につける前にこうしたシステムとともに育つ子どもたちに懸念を抱いている。GoogleのAI検索改修はリンクを自信たっぷりのAI生成サマリーに置き換えたが、Common Sense Mediaは今週、そのデザインを学生にとって「容認できないリスク」と呼んだ。このパターンは一貫している。AI製品は「わからない」と言うことなく回答するよう設計されており、それを利用する人間も同じことを学んでいる。

Get the TNW newsletter

Get the most important tech news in your inbox each week.