Prévisions de Forrester concernant l’IA pour 2027 : litiges, pannes mondiales et violations de données dans les entreprises dépourvues de contrôles solides

Dans son rapport Predictions 2027: Cybersecurity and Risk, Forrester estime que l’utilisation généralisée de l’intelligence artificielle pourrait provoquer des crises majeures pour les entreprises. Ces prévisions ne constituent pas des événements confirmés, mais elles mettent en évidence des risques que les dirigeants devraient évaluer dès maintenant.

Parmi les scénarios analysés figurent un procès pour négligence liée à l’IA, qui pourrait entraîner un changement de direction à la tête d’une entreprise, une panne mondiale provoquée par du code généré par l’intelligence artificielle et une violation de données survenue après le remplacement d’un modèle par un modèle moins coûteux.

Le rapport souligne que la responsabilité doit remonter jusqu’à la direction. Les entreprises devraient être en mesure de démontrer qui a autorisé une action, quelles vérifications ont été effectuées et comment l’impact d’une erreur peut être limité. Forrester estime également qu’en 2027, les dépenses consacrées aux jetons d’IA dans le domaine de la cybersécurité atteindront 1,5 milliard de dollars.

L’augmentation du volume de code généré automatiquement fera peser une pression accrue sur les tests, les déploiements contrôlés et les plans de reprise. Dans le même temps, le changement de modèles d’IA peut modifier les protections et le comportement des applications. Les entreprises sont invitées à suivre l’utilisation, les coûts, les autorisations, les données traitées et les résultats obtenus, afin de pouvoir vérifier, contrôler et rétablir les systèmes lorsque des problèmes surviennent.