Az OpenAI, az Anthropic és a Google DeepMind együttműködik a mesterséges intelligencia biztonságának javításáért

Az OpenAI az Anthropic és a Google DeepMind vállalattal együttműködik a mesterséges intelligencia biztonságának javításáért – jelentette ki Chris Lehane, a ChatGPT gyártójának globális politikai igazgatója, akit a Bloomberg és a Reuters idézett. A kezdeményezés célja egy olyan értékelési és felügyeleti mechanizmus létrehozása, amely az új AI-modelleket vizsgálná, tekintettel a technológia felgyorsult fejlődésével kapcsolatos kockázatokra.

A javaslatot Demis Hassabis, a Google DeepMind igazgatója terjesztette elő, aki az Egyesült Államok pénzügyi ágazatának szabályozó hatósága, a FINRA mintájára működő szervezet létrehozását javasolta. A testületet az ágazat vállalatai finanszíroznák, és független szakértőkből, valamint a nyílt forráskódú közösség képviselőiből álló tanács irányítaná.

A terv szerint a vezető AI-vállalatoknak az új modelleket a piaci bevezetés előtt biztonsági értékelésnek kellene alávetniük. A szervezet akár a fejlesztés lassítását is koordinálhatná, ha a kockázatok értékelése nem tartana lépést a technológiai fejlődéssel.

Az Egyesült Államokban a Trump-adminisztráció által augusztus elején bevezetett értékelési folyamatban való részvétel önkéntes. A vállalatok szerint szükség van szabályokra, az amerikai kormányzat azonban attól tart, hogy a korlátozások Kínának kedveznének. Egy ilyen struktúrához valószínűleg jogalapra lenne szükség a trösztellenes problémák elkerülése érdekében.