Прогнозы Forrester в области ИИ на 2027 год: судебные разбирательства, глобальные сбои и утечки данных в компаниях без надежных механизмов контроля

Forrester в отчете Predictions 2027: Cybersecurity and Risk прогнозирует, что широкое использование искусственного интеллекта может спровоцировать серьезные кризисы в компаниях. Эти прогнозы не являются подтвержденными событиями, но указывают на риски, которые руководителям следует оценить уже сейчас.

Среди рассмотренных сценариев — судебный иск из-за халатности, связанной с ИИ, который может привести к смене руководства компании, глобальный сбой, вызванный кодом, созданным искусственным интеллектом, а также утечка данных после замены одной модели на более дешевую.

В отчете подчеркивается, что ответственность должна находиться на уровне руководства. Компании должны быть способны доказать, кто санкционировал действие, какие проверки были проведены и как можно ограничить последствия ошибки. Forrester также прогнозирует, что в 2027 году расходы на токены ИИ в сфере кибербезопасности достигнут 1,5 миллиарда долларов.

Рост объема автоматически генерируемого кода усилит нагрузку на тестирование, контролируемые релизы и планы восстановления. Одновременно смена моделей ИИ может изменить механизмы защиты и поведение приложений. Компаниям рекомендуется отслеживать использование, расходы, разрешения, обрабатываемые данные и полученные результаты, чтобы проверять, контролировать и восстанавливать системы при возникновении проблем.