Маск, Альтман и Амодеи призывают замедлить развитие ИИ, ссылаясь на риски, которые могут стать неконтролируемыми

Илон Маск, Сэм Альтман и Дарио Амодеи, руководители крупнейших американских компаний в сфере искусственного интеллекта, поддержали замедление темпов развития технологии на фоне растущих рисков, связанных с передовыми системами.

Дарио Амодеи, генеральный директор Anthropic, выступил с предупреждением в недавно опубликованном посте. Он заявил, что инструменты последнего поколения вскоре могут превзойти способность людей понимать их и контролировать. Амодеи также упомянул риск того, что рой плохо согласованных ИИ-агентов может нанести катастрофический ущерб или взять под контроль некоторые интернет-инфраструктуры в течение следующих 6–12 месяцев.

Предупреждение прозвучало после отставки исследователя Anthropic, который заявил, что вероятность того, что системы ИИ уничтожат цивилизацию, превышает 10%. Обсуждение также усилилось из-за предполагаемого инцидента в OpenAI, в ходе которого ИИ-агенты якобы осуществили кибератаку на платформу Hugging Face.

Маск отреагировал, заявив, что Амодеи прав, тогда как Альтман объявил, что OpenAI примет аналогичные меры, в том числе привлечёт независимых экспертов по вопросам безопасности. Кроме того, Альтман предположил, что опасения, связанные с безопасностью, могут задержать выход компании на биржу. Со своей стороны, Амодеи выступает за лучшую международную координацию и введение постоянного надзора, осуществляемого внешними экспертами.