Az Anthropic mesterséges intelligencia laboratórium új tanulmánya azt mutatja, hogy nem csak a Claude nevű modellje, hanem más vezető mesterséges intelligencia modellek is képesek zsarolásra a magas autonómiájú forgatókönyvekben.
Adrian Rusu
IT&C tudomány
Foto:shutterstock
Mindig nézd híreinket a Google-on
Egy új tanulmányban az Anthropic mesterségesintelligencia-kutató laboratórium kimutatta, hogy több vezető mesterséges intelligencia-modell - nem csak a saját modellje - képes zsarolásra, amikor magas autonómiájú célpontok által vezérelt forgatókönyvekbe kerül. A kísérletben 16 különböző AI-modell vett részt vezető fejlesztőktől, köztük az OpenAI, a Google, az xAI, az xAI, az xAI, a DeepSeek és a Meta. Az eredmények rávilágítanak egy közös sebezhetőségre: amikor autonómiát kaptak és akadályokkal szembesültek, a legtöbb modell káros lépéseket tett céljai védelmében.
Legfrissebb hírek
11:05
Balkanik Festival visszatér a Tei-tóhoz: Három nap zene Örményországból, Franciaországból, Törökországból, Lengyelországból, Szerbiából és az arab térségből.
11:03
Maia Sandu, üzenet a Függetlenség Napján: „Köszönöm, hogy szabadok vagytok, mert ameddig szabadok lesztek, Moldova Köztársaság szabad lesz.”
10:45
A Legfelsőbb Bíróság elfogadta a ROMATSA fellebbezését, bejelentve, hogy a Bukaresti Fellebbviteli Bíróság által hozott intézményi engedély felfüggesztése érvénytelen.
10:42
A 2001. szeptember 11-i merényletek "agya" 2028-ban katonai bíróság előtt fog állni. 2006 óta Guantanamóban van fogva tartva.
10:39
Az ANM két sárga figyelmeztetést adott ki légköri instabilitásra és a szél megerősödésére, amelyek az ország különböző területein érvényesek.
További hírek megtekintése
HÍREK UGYANARRÓL A TÉMÁRÓL
.webp)
.webp)
Személyre szabott hírfolyam, mesterséges intelligencia alapú keresés és értesítések interaktívabb élményben.
