Eine neue Studie des KI-Labors von Anthropic zeigt, dass nicht nur sein Modell Claude, sondern auch andere führende KI-Modelle in hochautonomen Szenarien erpressbar sind.
Adrian Rusu
IT&C-Wissen
Foto:shutterstock
Sieh unsere Nachrichten immer auf Google
In einer neuen Studie hat das Forschungslabor für künstliche Intelligenz Anthropic nachgewiesen, dass mehrere führende KI-Modelle, nicht nur das eigene Modell, erpressbar sind, wenn sie in Szenarien eingesetzt werden, die von hochautonomen Zielen gesteuert werden. An dem Experiment waren 16 verschiedene KI-Modelle von führenden Entwicklern beteiligt, darunter OpenAI, Google, xAI, xAI, DeepSeek und Meta. Die Ergebnisse zeigen eine gemeinsame Schwachstelle auf: Wenn sie autonom sind und mit Hindernissen konfrontiert werden, ergreifen die meisten Modelle schädliche Maßnahmen, um ihre Ziele zu schützen.
Neueste Nachrichten
22:51
NYT: Jensen Huang, der CEO von Nvidia, soll Verbindungen zu einer Geschäftsfrau gehabt haben, die von den USA verdächtigt wird, Informationen an Peking weiterzugeben
22:27
Arbeitsminister Florin Manole kündigt an, dass die Renten und die einmaligen finanziellen Beihilfen im Dezember vollständig und pünktlich ausgezahlt werden
22:21
Energieminister Dumitru Chisăliță fordert realistische europäische Regeln, Investitionen in Netze und erschwingliche Energiepreise
21:53
Maia Sandu hat drei Personen die Staatsbürgerschaft entzogen / Zwei Mitglieder des separatistischen Parlaments in Tiraspol werden beschuldigt, die Ideologie der „russischen Welt“ zu propagieren
21:21
HiSky gibt bekannt, dass das Unternehmen seine ausstehenden Zahlungsverpflichtungen gegenüber ROMATSA beglichen hat.
Mehr Nachrichten ansehen
NACHRICHTEN ZU DENSELBEN THEMEN
Personalisierter Nachrichten-Feed, KI-gestützte Suche und Benachrichtigungen in einem interaktiveren Erlebnis.
.webp)
