Илон Маск подчеркивает опасности искусственного интеллекта, предупреждая, что он может генерировать ошибочные выводы без руководства истинной, красоты и любопытства.

Миллиардер Илон Маск выразил серьезные опасения по поводу искусственного интеллекта (ИИ) в рамках подкаста с Нихилом Каматом, подчеркивая, что технология может стать опасной без осторожного развития. Маск заявил, что нет гарантий позитивного будущего с ИИ, предупреждая, что он может стать разрушительным, если поглотит ложную информацию. Он раскритиковал ускоренные темпы прогресса в этой области и описал ИИ как одно из величайших рисков для цивилизации.

Маск подчеркнул важность руководства ИИ тремя основными принципами: истина, красота и любопытство. Без этих ориентиров модели ИИ рискуют прийти к неправильным выводам и генерировать сфабрикованные ответы, явление, которое он назвал 'галлюцинациями'. Также Маск упомянул, что оценка красоты помогает ИИ распознавать гармонию, а любопытство является необходимым для исследования реальности.

Его предупреждения присоединяются к тем, что были высказаны другими экспертами в этой области, такими как Джеффри Хинтон, который оценил вероятность 10%-20%, что ИИ станет экзистенциальной угрозой.