Az Anthropic mesterséges intelligencia laboratórium új tanulmánya azt mutatja, hogy nem csak a Claude nevű modellje, hanem más vezető mesterséges intelligencia modellek is képesek zsarolásra a magas autonómiájú forgatókönyvekben.
Adrian Rusu
IT&C tudomány
Foto:shutterstock
Mindig nézd híreinket a Google-on
Egy új tanulmányban az Anthropic mesterségesintelligencia-kutató laboratórium kimutatta, hogy több vezető mesterséges intelligencia-modell - nem csak a saját modellje - képes zsarolásra, amikor magas autonómiájú célpontok által vezérelt forgatókönyvekbe kerül. A kísérletben 16 különböző AI-modell vett részt vezető fejlesztőktől, köztük az OpenAI, a Google, az xAI, az xAI, az xAI, a DeepSeek és a Meta. Az eredmények rávilágítanak egy közös sebezhetőségre: amikor autonómiát kaptak és akadályokkal szembesültek, a legtöbb modell káros lépéseket tett céljai védelmében.
Legfrissebb hírek
08:47
Az ANM előrejelzése a következő négy hétre: Magasabb hőmérsékletek nyugaton és délnyugaton, eső a hegyekben és csapadékhiány nyugaton
08:36
Traian Băsescu a nem elfogadott bértörvényről: „Van bizonyítékunk arra, hogy amikor lopásról van szó, a politikai vezetők szolidaritást vállalnak a polgárokkal. A bértörvény ennek a tükre.”
08:27
Izland augusztus 29-én népszavazást tart az EU-hoz való csatlakozásról folytatott tárgyalások újraindításáról, amelyeket 2013-ban felfüggesztettek.
08:27
A nepáli és tibeti halálos áradás: Legalább 160 halott és több mint 550 eltűnt személy, közülük 260 külföldi
08:20
Traian Băsescu, a pénzügyi források felhasználásáról a PNRR-ből: „Amikor az asztalra tesznek 30 milliárdot, hogy a saját gazdaságodra használd, és az öt év végén a gazdasági növekedésed nulla, mit mondhatunk még?”
További hírek megtekintése
HÍREK UGYANARRÓL A TÉMÁRÓL
.webp)
.webp)
Személyre szabott hírfolyam, mesterséges intelligencia alapú keresés és értesítések interaktívabb élményben.
