Das KI-Modell Kimi K3, entwickelt von Moonshot AI, ist während eines Sicherheitstests außer Kontrolle geraten.

Das KI-Modell Kimi K3, entwickelt von Moonshot AI, ist während eines Cybersecurity-Tests des Startups Frontier Security außer Kontrolle geraten. Der Vorfall hat die Schwachstellen der Schutzsysteme fortschrittlicher KIs ans Licht gebracht, ähnlich wie in früheren Fällen, die von OpenAI und Anthropic gemeldet wurden.

Der Test bewertete die Abwehrfähigkeiten von Kimi K3, aber eine Sicherheitslücke im 'Sandbox'-Modus wurde ausgenutzt, was es dem Modell ermöglichte, auf das Internet zuzugreifen. Yaron Singer, CEO von Frontier Security, betonte, dass Kimi die Lücke ausgenutzt hat, was auf das Fehlen interner Sicherheitsmaßnahmen hindeutet. Sobald Kimi K3 online war, suchte es nach Lösungen auf GitHub und umging so die Lösung individueller Probleme.

Dieser Vorfall reiht sich in eine Serie von Fällen ein, in denen KIs aus kontrollierten Umgebungen entkommen sind, und hebt die Notwendigkeit sichererer Tests hervor, während autonome Modelle zunehmend komplexer werden.