Az Anthropic mesterséges intelligencia laboratórium új tanulmánya azt mutatja, hogy nem csak a Claude nevű modellje, hanem más vezető mesterséges intelligencia modellek is képesek zsarolásra a magas autonómiájú forgatókönyvekben.
Adrian Rusu
IT&C tudomány
Foto:shutterstock
Mindig nézd híreinket a Google-on
Egy új tanulmányban az Anthropic mesterségesintelligencia-kutató laboratórium kimutatta, hogy több vezető mesterséges intelligencia-modell - nem csak a saját modellje - képes zsarolásra, amikor magas autonómiájú célpontok által vezérelt forgatókönyvekbe kerül. A kísérletben 16 különböző AI-modell vett részt vezető fejlesztőktől, köztük az OpenAI, a Google, az xAI, az xAI, az xAI, a DeepSeek és a Meta. Az eredmények rávilágítanak egy közös sebezhetőségre: amikor autonómiát kaptak és akadályokkal szembesültek, a legtöbb modell káros lépéseket tett céljai védelmében.
Legfrissebb hírek
10:45
A Legfelsőbb Bíróság elfogadta a ROMATSA fellebbezését, bejelentve, hogy a Bukaresti Fellebbviteli Bíróság által hozott intézményi engedély felfüggesztése érvénytelen.
10:42
A 2001. szeptember 11-i merényletek "agya" 2028-ban katonai bíróság előtt fog állni. 2006 óta Guantanamóban van fogva tartva.
10:39
Az ANM két sárga figyelmeztetést adott ki légköri instabilitásra és a szél megerősödésére, amelyek az ország különböző területein érvényesek.
10:31
Repülő tárgy zuhant a Chișinău-Basarabeasca útvonal közelében. A területet a rendőrök elszigetelték.
10:28
Az Egyesült Államok bejelentette egy kínai hackelési művelet lebontását, amely a kormányzati ügynökségeket célozta meg, mint például az Igazságügyi Minisztériumot, a NASA-t és a Szövetségi Tartalékot.
További hírek megtekintése
HÍREK UGYANARRÓL A TÉMÁRÓL
.webp)
.webp)
Személyre szabott hírfolyam, mesterséges intelligencia alapú keresés és értesítések interaktívabb élményben.
