I am a contrarian who likes to argue and complain a lot. Because of this, I have never been inclined to block people who argue with me or complain about my work, or even lash out at me with some hostility. I could say a lot of noble sounding things about how I value debate and open discourse, and those things would be true, but I also just feel like I should tolerate other people as much as they have to tolerate me.

私は最近、AI支持者 vs AI懐疑論者について書いた——かなり穏やかな記事で、両陣営とも善意の人々であり、なぜみんな仲良くできないのかという内容がほとんどだった。それなのに、ここ3週間でブロックした人の数は過去10年分を上回った。1 今、水面下には恐れが広がっていて、それが私たち全員の狂気を引き出している。

賭けられているものは小さくない。結局、世界は燃えている。CEOたちは雇用を大量に削減する狂乱を繰り広げ、産業革命が知識労働者を脅かしている可能性がある。教皇でさえ警鐘を鳴らしている。

AIを特別なもの——独特の悪、比類なき害、修復不能な汚染——のように持ち上げる人を見ると、私は苛立つ。それはどれも当てはまらない。AIはただの技術だ。

一部の技術は他より有害だ——ナイフは銃より被害が少なく、大学向けのFacebookはミャンマー向けのFacebookより被害が少なかった——しかし、私たちは常にリスクを理解する前に発見する。2 私たちが追いつこうとする間、常にギャップが存在する。

そのギャップはAIが悪であることの証明ではない。私たちにすべきことがあることの証明だ。

まだ問題を解決していないという事実は、AIとの関わりを断つ理由にはならない。特に、技術の分野で働き、すでに必要なスキルを備えている人々にとっては、むしろ積極的に関わるべき理由だ。

ツールの使い方を学ぶには、それに触れることを拒否すればいいわけではない。実際に使い、十分に理解して批判し、形作り、貢献し、境界を設定することで学ぶ。つまらない技術にする方法を学ぶのだ。

“AIを学べば、AIについてより良く不満を言える。” 私はそう言ったし、本気だった。今もそう思っている。

私はBlueskyでスレッドを立ち上げ、AIに関連する被害を分類しようとした。被害には主に2つのカテゴリがあるようだ：AIの作成に伴う被害（例：許可や補償なしの学習、データラベリングにおける労働搾取）と、AIの使用によって引き起こされる被害（例：リベンジポルノ、真実性の自己言及ループと帰属の問題、エネルギー・水の使用）。

私はこれらの被害を軽視したり否定したりするつもりはない。むしろ、責任あるAIの利用者であるためには、これらの被害について学び、対策を講じることが重要だと思う。

多くの人と意見が異なるのは、これらの被害を認識することが必然的に「だからAIを使ったり関わったりすべきではない」という結論につながるとは思わない点だ。

特に技術分野にいる私たちにとっては、道徳的な方向性は逆だと私は思う。私たちには関わり、専門家になり、耳を傾けられる存在になる道徳的責任があると思う。次世代の技術が今まさに形作られているので、私はそれを形作る手助けをしたい。強力な新ツールの前で一方的に武装解除することは賢明でも効果的な戦略でもない。3

しかし、まずはこれらの被害のカテゴリについて話そう。

最もよく耳にする主張は次のようなものだ。「AIは盗まれたデータで学習された4のだから、それを使う人は共犯者だ。アーティストを思うなら、これらのツールを使うべきではなく、AIで生成されたアートは避けるべきだ。」あるいは、よく送られてくるこの記事「On the acceptance of GenAI」。

いや、AI生成のアートを避けるべき理由は、それがほとんどひどいものだからだ。正直に言うと、私が全く心配していない分野のひとつは、アートが繁栄するかどうかだ。美学は自ら報復を果たすだろうし、それは容赦ないものになる。すでに始まっている。

指摘しておく価値があるのは、倫理、道徳、法は異なるものだということだ。OpenAIがモデルを学習させた方法は合法だったのか？ それは不明だ。法律はこのユースケースを想定して書かれたものではなく、これまでの判例は混乱し、矛盾しており、個別の事実に基づいて狭く判断されてきた。事実上シュレディンガーの法だ——最高裁判所が判断を下すまで、それが合法だったかどうかはわからない。

しかし、仮に合法だったとしても、それは正しかったのか？ 私の考えでは違う。

学習データだけが被害ではない。搾取された労働、エネルギーコスト、きれいな水、地域社会の生活の質の問題、税制の問題（データセンターが税金を払わず、地方自治体から数十億ドルの税制優遇を受けていることを知っていたか？）、特定のエリートへの権力集中、主要な関係者の明らかな社会病質などもある。

アーティストを支援したいなら、アーティストを支援すればいい。5 しかし、原罪というものは存在しない。技術はツールだ。大切なのは、私たちがそれで何をするかだ。

AIの結果として人々が現在経験している被害のリストは長く、地平線上に迫る被害のリストはさらに長い。日常的な苛立ち——3つの簡潔な箇条書きの代わりに5ページのゴミを受け取ること、偽の応募者で詰まった採用パイプライン、役に立たず消耗させることを目的としたAIカスタマーサポート——から、スキル萎縮、説明責任の欠如、追従性、生成データでの学習がもたらす参照品質の低下と真実そのものの喪失といった深刻な懸念まで。

これらのほとんどはAIに特有のものではなく、AIが登場する前から存在した問題であり、AIがそれを悪化させたり極端にしたりしているだけだ。つまり、解決策もAIに特有のものではない。

私は、政治的に同じ立場だと思える人々からの動機づけられた推論の多さに悩まされている。AIを憎む理由を探し始めた後で、以前は全く気にしていなかったことの長いリストを挙げてAIを声高に嫌う人々を嘲笑し、切り捨てるのは簡単だ。6

私はこれが、AIに特有の非常に現実的で、非常に具体的で、非常に恐ろしい被害——誰を投獄するか、戦場で誰を殺すかを決定する権限の委譲、あるいは権威主義的な政府（私たち自身の政府を含む）がこれらのツールで何ができるか——に対する懸念を正当性を失わせることになると懸念している。

リストは長く、増え続けている。私たちはどうするのか？

私たちは銃、核兵器、天然痘、アルコール、タバコ、ソーシャルメディア、フェンタニル、ビットコインが存在する世界で生きることを学ばなければならなかった。今、私たちはAIが存在する世界で生きる方法を見つけなければならない。

私は純粋さが実在し、私たち（女性）が目指すべき最高の善であると信じる男性に育てられた。私は主流の世界を腐敗と誘惑に満ちた場所として見るように教えられた。私は正しい道とは、堕落した世界とその学校、保険、統治機関、大衆文化から離れることだと教えられた。

両親は素晴らしく愛情深い人々で、私は彼らを深く愛しているが、私は自分の成人生活をその正反対のものに強く捧げてきた。

私は相互依存を信じている。私たちは、絡み合いやその詳細を認識するかどうかにかかわらず、互いに避けられないほど絡み合っていると信じている。私は、私たちが生まれた依存の網から自分を切り離すことは不可能であり、望ましくもないと信じている。

ケアを示す方法は、参加することだ。世界をより良い場所にする方法は、泥沼に降りて、手元にあるスキルとリソースを使って構築することだ。変化を促す方法は、関わることだ。

はい、私たちは皆共犯者だ。はい、私たちは皆妥協している。議論の余地はない。しかし、その確信の感情であなたは何をするつもりか？ 不快感を連帯と行動に変えるのか、それとも自分をシステムから切り離すことで良心を楽にしようとするのか？ どちらが被害を受けている人々を助けるのに役立つだろうか？

私は、純粋さの追求が容易に自己愛とパフォーマンスアートに陥り、問題や被害を受けている人々ではなく、私たち自身と私たちの探求を中心にしてしまうと信じている。

純粋さの追求は、左派・右派を問わず、あらゆる原理主義の原動力となっている。そして原理主義は感情的に満足のいく反応であり、シリコンバレーがヒールターンに傾くにつれてますます魅力的に見えるが、私はそれが効果的な反応だとは思わない。

“私は純粋主義に反対する。なぜならそれは、あらゆる形態の破壊に対する、悪くはあるが一般的なアプローチの一つだからだ……それは悪いアプローチだ。なぜなら、世界の破壊に対するより良い集団的行動を可能にする可能性の場を、まさに閉ざしてしまうからだ——その奇妙で、 delightful で、不純な戯れのすべてにおいて。” — Alexis Shotwell, “Against Purity: Living Ethically in Compromised Times”

私は特に、互いに純粋さが不十分だとパフォーマンス的に非難することに費やすカロリーに疑念を抱いている。7 これは誰の助けになるのか？ アーティストか？ データセンターの隣で眠れない家族か？

私たちが好きかどうかに関わらず、AIはここに留まる。もし技術の未来が今書かれているのであれば——そして私はそう信じている——計画は何なのか？ 良心の呵責が最も少ない者に任せて、フィールドから去るのか？ 冗談じゃない。

さて、これは正しい問いであり、私たち自身に問うべきことだ。

私は、技術業界で働く人は誰でも、AIについて学べる限りのことを積極的に学ぶべきだと思う——それがどのように機能し、どのように失敗し、どのように効果的に使い、被害を防ぐか。

私は今でも、ソフトウェア業界がAIにとって究極のキラーアプリになると考えている。なぜならソフトウェアは言語と論理でできており、他のアプリケーションにはない出力の検証とドリフトの緩和のための組み込みの方法があるからだ。しかし、私たちはそれらを学び、構築し、教え、使わなければならない。

AIを使うすべての職場は、AIが私たちの働き方、コミュニケーション、協力の仕方をどのように変えているかについて、積極的かつ緊急に議論すべきだと思う。そして、被害のリストを収集・分類するだけでなく、それらを押し返し、解決し、回避し、これらの技術を私たちのために機能させる方法を積極的に実験するためだ。

私たちはどのようにしてより人間らしく一緒にいられるか？ AIの使用にどのように境界を設定できるか？ 私たちに役立つようにするにはどうすればいいか？ 有害な技術に代わるより倫理的な代替案を構築できるか？ それらには市場があると私は賭けている。

また、私たちは現在持っている以上の答えが必要だと思う。データセンターの近くに住む人々への補償基金や移転支援。これらのプロジェクトに補助金を出している数十億ドルの納税者のお金を公表する。それを渡したクソ野郎たちを落選させる。このトピックに特化した法的擁護団体はあるか？ ロビー団体は？ 他に何か？ あなたが知っていて保証できる答えを教えてくれれば、私が得た答えをすべて投稿する。

私はその答えが少し弱いことを認識している。ごめん、私にもすべての答えがあるわけではない。私はただ、簡単な答えなど存在せず、そう言う人は何かを売っているか、ソーシャルメディアで大げさにパフォーマンスしているだけだと知っている。

私には、私やおそらく多くの人にとって、答えは職場から始まるとわかっている。答えは、私たちが知らないことを認めることから始まる。そして、とにかく掘り下げ、始めることだ。

ここから始めよう：AIのゴミやAIツールの無規律な使用、お互いの時間への不公平で認識されていない税に苛立っているか？

私たちは皆そう思っている——信じてほしい。これらの不満は、不満を言うためではなく、より良い相互作用の方法、より良いパターン、より良い作業合意を見出す方法として、声を上げる価値がある。AIを禁止する日や相互作用の種類を宣言したいか？ AI生成のドキュメントを共有する前に同意を求めることを試みたいか？ 最大の不満を和らげるような実験はどのようなものか？

痛みは自然の教師だ。それに従え。

もしあなたがマネージャーなら、チームとオープンな会話をしよう。（マネージャーでなければ、上司に持ちかけよう！）良いニュースは、文字通り全員が現状に怒り、苛立っているということだ。新しい在り方や働き方を提案するのに最適な時期だ。

AIのない未来はありそうにない。ごめん。でも、それはOpenAIやAnthropicが与えるものに縛られていることを意味しない。

絶望を感じるとき、私は自分にこう言う：私は、夜中に心配して眠れない他のこと——政府、最高裁判所、選挙、気候変動、砂漠化、情報エコシステム、ウクライナ、中東——よりも、ソフトウェア業界のAIに対してより大きな影響力を持つことができる。

おそらくそれはあなたにも当てはまる。

私たちは純粋な世界を選ぶことはできない。しかし、私たちはすでに住んでいる妥協された世界を形作る手助けをするかどうかを選ぶことはできる。

恐怖に駆られた怒りへの答えは、退屈で、規律があり、集団的な仕事——組織化し、ケアし、より良い世界を構築する仕事だ。原理主義への答えは、より多くの原理主義ではない。私たちの罪悪感と責任感は、個人の純粋さの追求ではなく、連帯と修復の行為へと私たちを向かわせるべきだ。

私の考えでは、目標はAIを消滅させることではない。それはあまりにも便利すぎるし、とにかく不可能だ。目標は、その使用を規律正しく、社会的で、説明責任のあるものにすることだ。強力なツールと共に生き、それらを責任を持って統治するために必要な仕事に取り組もう。

AIを再び「つまらない」ものにしよう。

~charity

このBlueskyスレッドに貢献してくれた人々、メッセージを送ってくれた人々、私の考えに異議を唱えてくれた人々、またはこの記事の初期ドラフトをレビューしてくれたすべての人々に感謝する。（多すぎて名前を挙げられず、プライバシーを求めた人もいる。）皆さんに心から感謝する。

さらに読みたい人のために：

最近よくおすすめしている本に、Travis Riederによる“Catastrophe Ethics: How to Choose Well in a World of Tough Choices”がある。

哲学オタクには少し“ポップ”すぎ、一般読者には“哲学的”すぎるかもしれない……しかし、私はそれを愛し、頻繁に参照している。Riederは、すべての選択が害に満ちているにもかかわらず、個人の行動が問題の規模に対して無意味に思える世界で、倫理的な人生を送ることの難しさについて語っている。清教徒主義やニヒリズムに陥ることなく、誠実な人生をどう描くか？

“More Everything Forever: AI Overlords, Space Empires, and Silicon Valley’s Crusade to Control the Fate of Humanity”, by Adam Becker. “Catastrophe Ethics”は時に少し暗い読み物だが、この本は純粋な喜びだ。Beckerは科学ジャーナリストで、哲学の学位と天体物理学のPhDを持ち、サンフランシスコ——AI精神病の震源地——に住んでいる。AI、シンギュラリティ、効果的利他主義、AGIなどについて神話を打ち砕くのに、これ以上ふさわしい人物はいない。辛口のユーモアも交えながら。

Albert Hirschmanの“Exit, Voice and Loyalty: Responses to Decline in Firms, Organizations, and States” (Lizに感謝)

そして最後に、絶対に必要なRebecca Solnitの“Hope in the Dark”。私たちは達成した勝利をすぐに忘れてしまうので、物事が常に悪化しているように感じやすい。しかし、そうではない。そして闘争は希望を築く、その過程でずっと。

この投稿についての議論

もっと読む準備はできていますか？