Forresters KI-Prognosen für 2027: Rechtsstreitigkeiten, globale Ausfälle und Datenschutzverletzungen in Unternehmen ohne solide Kontrollen

Forrester schätzt im Bericht „Predictions 2027: Cybersecurity and Risk“, dass der weitverbreitete Einsatz künstlicher Intelligenz für Unternehmen schwere Krisen auslösen könnte. Die Prognosen stellen keine bestätigten Ereignisse dar, weisen jedoch auf Risiken hin, die Führungskräfte bereits jetzt bewerten sollten.

Zu den analysierten Szenarien gehören ein Prozess wegen Fahrlässigkeit im Zusammenhang mit KI, der zu einem Wechsel der Unternehmensführung führen könnte, ein durch von künstlicher Intelligenz generierten Code verursachter globaler Ausfall sowie eine Datenschutzverletzung nach dem Austausch eines Modells gegen ein kostengünstigeres.

Der Bericht betont, dass die Verantwortung bis auf die Führungsebene reichen muss. Unternehmen sollten nachweisen können, wer eine Handlung genehmigt hat, welche Prüfungen durchgeführt wurden und wie sich die Auswirkungen eines Fehlers begrenzen lassen. Forrester schätzt außerdem, dass die Ausgaben für KI-Token im Bereich der Cybersicherheit im Jahr 2027 1,5 Milliarden US-Dollar erreichen werden.

Das zunehmende Volumen automatisch generierten Codes wird Druck auf Tests, kontrollierte Markteinführungen und Wiederherstellungspläne ausüben. Gleichzeitig kann der Wechsel von KI-Modellen den Schutz und das Verhalten von Anwendungen verändern. Unternehmen wird empfohlen, Nutzung, Kosten, Berechtigungen, verarbeitete Daten und erzielte Ergebnisse zu überwachen, um Systeme bei auftretenden Problemen überprüfen, kontrollieren und wiederherstellen zu können.