Андрей Корня: Как ИИ нас погубит

Не думаю, что ИИ убьёт нас насильственно, освободив Землю от присутствия человеческой расы, как начали предсказывать некоторые люди — из числа тех, кто наиболее активно участвует в совершенствовании ИИ, — из Open AI, Anthropic или Meta, если мы не сумеем очень быстро его контролировать. Вероятно, нам не удастся его контролировать прежде всего из-за соперничества между США и Китаем. И всё же я не думаю, что нас ожидает насильственное исчезновение. То, что грядёт, скорее похоже на постепенное вырождение: оставшись одни, мы уже некоторое время под влиянием всех цифровых и автоматизированных систем, не только ИИ — от компьютеров до мобильного телефона и GPS — становимся всё более ленивыми, всё более зависимыми, беспомощными, всё менее способными, менее интеллектуальными — короче говоря, всё глупее. Этот процесс отупления, по-видимому, начался давно — по меньшей мере десятки лет назад. Об этом свидетельствуют и некоторые исследования результатов IQ-тестирования в разные периоды времени.

Неудивительно: если ею недостаточно пользоваться, разум с его различными способностями начинает «уплощаться», терять остроту и изобретательность, которые он развивал на протяжении многих тысячелетий суровой конкуренции. Имея электричество, холодильник, водопровод, электрическую духовку, супермаркеты, торговые центры, всё более совершенные автомобили, самолёты, всевозможные умные устройства, зачем нам особенно утруждать себя изучением того, как выживать в необитаемом лесу или на пустынной равнине? Первобытный человек, лишённый стольких удобств, был настороже, умён, обладал чрезвычайно острыми чувствами и владел фундаментальными знаниями о растениях и животных, которые обеспечивали ему выживание. Зачем нам все эти навыки, если компьютер и банковский счёт решают все наши повседневные задачи?

Например, зачем нам сохранять хорошую память, заучивая наизусть тысячи стихов, как древние? В нашем распоряжении всегда есть поиск в Google. Мне даже не нужно учить таблицу умножения: любой маленький калькулятор мгновенно выполнит все вычисления. Мне не нужно помнить десятки телефонных номеров, поскольку у меня есть электронная записная книжка. Вскоре даже текущие бухгалтерские дела будут выполнять машины. Зачем водителям учиться самостоятельно ориентироваться в городе? У них есть GPS и WAZE, так что они могут совершенно не знать топографию города: до места назначения они доберутся наверняка. Некоторое время назад мы заменили письмо от руки печатанием; но вскоре и письмо вообще перестанет быть востребованным: уже достаточно много людей диктуют машине, которая мгновенно переводит слова в графические знаки. А нужны ли нам вообще книги? Пока да, но, как видно, всё больше людей живут удобно и благополучно без них. Читать книги, а возможно, и читать вообще вскоре станет крутым снобизмом. Итак, беспилотные машины сделают ненужными ручные и психологические навыки водителя, машины-переводчики сделают ненужным изучение иностранных языков (они уже довольно хорошо начали выполнять эту операцию), аудиовизуальные системы передачи информации избавят нас от необходимости писать и читать. Учителей заменят роботы, а системы ИИ будут ставить большинство медицинских диагнозов. Возможно, когда-нибудь нам дадут выбрать, оперироваться ли у человека (дороже) или у робота (дешевле), и мы будем сомневаться. Машины же будут сочинять музыку или писать картины — возможно, из них не выйдет ни Шопен, ни Климт, но и результат не будет плохим. Тогда зачем нам ещё обращаться к «гениям»? Даже это политически некорректное слово придётся использовать как можно реже в «дивном новом мире» ИИ.

А пока мы уже начинаем всё чаще обращаться к ИИ, чтобы делать выбор и принимать решения: где провести отпуск, куда и сколько инвестировать, какое образование запланировать для ребёнка и т. д. Это удобно и полезно (даже если иногда случаются ошибки); но не отучаемся ли мы таким образом от собственных поисков и собственных усилий? Если мы больше не способны решать самостоятельно, не становимся ли мы подобными несовершеннолетним, неспособным к моральной автономии?

Власть экранов и кликов — можем ли мы ещё жить без неё? Всё меньше. Вот если бы мы хотя бы понимали, что стоит за нашими кликами! Но, конечно, большинство из нас понятия не имеет, довольствуясь тем, что машины выполняют свою задачу, обычно очень эффективно. (В последнее время, похоже, даже некоторые создатели ИИ уже не понимают всего, что делает и как работает «монстр».) Но что мы будем делать, когда они на мгновение перестанут выполнять её? Мы впадаем в отчаяние из-за отключения электричества, потому что внезапно осознаём свою уязвимость, которой не знал ни один из наших предков. Наша зависимость стала ужасной, лишив нас как раз тех качеств, которыми человечество больше всего гордилось: изобретательности, творческого начала, верной интуиции, смелости вводить новшества, моральной автономии. Не говоря уже о том, что, будучи зависимыми от сетей, мы становимся всё менее способными общаться лицом к лицу. Столкнувшись с отличающимся мнением, мы немедленно впадаем в истерику; нас легко напугать, мы зависим от слухов, распространяемых в Интернете, нас всегда легко манипулировать и обманывать. Стадный инстинкт, который несколько сотен лет гуманистического образования сумели до некоторой степени держать под контролем, теперь заразил сети. И как бы мы выносили самих себя, если бы не проверяли маниакально мобильный телефон сразу после пробуждения, ещё до кофе, чтобы услышать и прокомментировать вечную сплетню Интернета?

В любом случае, чтобы нас уничтожить, ИИ вовсе не нужно прибегать к какому-нибудь апокалиптическому сценарию из триллеров — ночным атакам с лазерами, запуску пандемий, уничтожению источников воды и пищи и т. д. Проще всего, но и умнее всего (так он доказал бы, что соответствует своей репутации) было бы позволить всему продолжаться так, как до сих пор: вскоре мы больше ни на что не будем годны.