アンドレイ・コルネア：AIは私たちをどう殺すのか

AIが人類を暴力的に殺し、地球から人類の存在を消し去るとは思わない。AIの制御に極めて深く関わるOpenAI、Anthropic、Metaなどの一部の人々が、私たちが非常に早く制御できなければそうなると予測し始めているが、私はそうは考えない。おそらくAIを制御できないのは、主に米国と中国の競争のためだろう。それでも、私たちを待ち受けているのが暴力的な消滅だとは思わない。これから起こることは、むしろ緩やかな退化のように見える。私たちは、放っておかれると、AIだけでなく、PCから携帯電話、GPSに至るまで、あらゆるデジタル・自動化システムの影響下で、しばらく前からますます無精になり、依存し、無力になり、不器用になり、知性を失い、要するに、どんどん愚かになっている。この愚鈍化の過程は、少なくとも数十年前から始まっていたようだ。長年にわたるIQテストの結果を調べた研究の一部も、まさにそれを示している。

驚くことではない。十分に使われなければ、さまざまな能力を備えた心は「平板化」し始め、何千年もの厳しい競争の中で培ってきた鋭さと創意工夫を失う。電気、冷蔵庫、水道、電気オーブン、スーパーマーケット、ショッピングモール、ますます高性能になる自動車、飛行機、あらゆるスマート機器があるのに、無人の森や荒涼とした平原で生き延びる方法を学ぶために、なぜ私たちはそれほど努力しなければならないのか。これほど多くの便利さを持たなかった原始人は、警戒心が強く、知性に富み、感覚が非常に鋭く、生存を支える植物や動物についての基本的な知識を持っていた。コンピューターと銀行口座が日常の必要をすべて解決してくれるのに、私たちにこうした能力が必要だろうか。

例えば、古代人のように何千行もの詩を暗記して、優れた記憶力を保つ必要がなぜあるのか。いつでもGoogle検索ができる。九九さえ覚える必要はない。小さな計算機が一瞬ですべて計算してくれる。電子アドレス帳があるので、何十もの電話番号を覚える必要もない。近いうちに、日常的な経理作業さえ機械が行うようになるだろう。運転手が都市の中で自力で道を把握する方法を学ぶ必要があるだろうか。GPSとWAZEがあるので、都市の地形を完全に無視しても、確実に目的地へ着ける。私たちはしばらく前から手書きをタイプ入力に置き換えたが、近いうちに書くこと全般さえ必要なくなるだろう。すでに、機械に口述し、言葉を即座に図形記号へ変換させる人は少なくない。そもそも、私たちは本を持つ価値がまだあるのだろうか。今のところはある。しかし、見ての通り、ますます多くの人々が本なしに快適で豊かな生活を送っている。本を読むこと、ひょっとすると読むこと全般が、近いうちにクールなスノビズムになるだろう。つまり、自動運転車は運転手の手作業能力や心理的能力を不要にし、翻訳機は外国語を学ぶことを不要にし、情報を伝える音声・映像システムは書くことと読むことの負担から私たちを解放する。教師はロボットに置き換えられ、AIシステムが医療診断の大半を下すようになるだろう。いつか、より高価な人間に手術してもらうか、より安価なロボットに手術してもらうかを選べるようになり、私たちは迷うかもしれない。音楽を作曲したり絵を描いたりするのも機械になるだろう。そこからショパンやクリムトが生まれることはないかもしれないが、悪くもないだろう。それなら、なぜ「天才」に頼る必要があるのか。AIの「すばらしい新世界」では、この政治的に不適切な言葉さえ、できるだけ使わないようにしなければならない。
その時までにも、私たちはすでに、選択や決定をするためにAIにますます頼り始めている。休暇をどこで過ごすか、どこにいくら投資するか、子どもにどのような教育課程を選ぶかなどだ。便利で役に立つ（時には間違いも起こるが）。しかし、そうすることで、自分自身で探し、自分で努力することを忘れてしまわないだろうか。自分で決められなくなれば、道徳的自律性を持てない未成年者のようになってしまうのではないか。

画面とクリックの支配なしに、私たちは生きられるだろうか。ますます難しくなっている。せめて、自分のクリックの背後に何があるのか理解できればよいのだが。しかし、もちろん私たちの大半は何も知らず、機械が通常は非常に効率よく仕事を果たしてくれることに満足している。（最近では、AIの創造者の一部でさえ、「怪物」が何をし、どのように機能しているのか、もはやすべてを理解していないようだ。）だが、機械が一時的に仕事を果たさなくなったら、私たちはどうするのか。停電が起きると私たちは絶望する。突然、自分たちの脆弱性を思い知らされるからだ。そんな脆弱性を、私たちの祖先は誰一人として持っていなかった。私たちの依存は恐ろしいほどになり、人類が最も誇っていた能力、すなわち創意工夫、創造性、正しい直感、革新する勇気、道徳的自律性まで奪っている。そのうえ、ネットワークに依存する私たちは、対面で交流することもますますできなくなっている。異なる意見に出会うと、すぐにヒステリックになる。簡単に恐れ、インターネット上で拡散された噂に依存し、常に操られやすく、だまされやすい。数百年にわたる人文主義教育がある程度抑えてきた群集心理が、今やネットワークに感染している。目覚ましが鳴ると、コーヒーより先に携帯電話を狂ったように確認し、インターネットの絶え間ないゴシップを聞いてコメントしなければ、自分自身にどう耐えられるだろうか。

いずれにせよ、私たちを無力化するために、AIがスリラーに出てくるような終末シナリオ――夜間のレーザー攻撃、パンデミックの発生、水や食料の供給源の破壊など――に頼る必要はまったくない。最も単純で、しかも最も知的な方法（そうすれば、自らが評判どおりの水準にあることも証明できる）は、これまでどおり物事を続けさせることだ。近いうちに、私たちは何の役にも立たなくなる。