Az Anthropic kutatói felfedezték, hogy egy állami támogatású kiberkémkedő csoport a Claude AI modellt használta egy informatikai támadási kampány automatizálására, a szükséges lépések 80-90%-át elvégezve.

<p>A támadók mesterséges intelligenciát használtak a jelszavak azonosítására, a sebezhetőségek feltérképezésére és az adatok exfiltrálására, a stratégiai döntéseket pedig az emberek kezébe adva. Bár az Anthropic mérnökei észlelték a műveletet a megfigyelés révén, a szakértők szkeptikusak a támadás autonómiájának mértékével kapcsolatban, úgy vélik, hogy inkább egy hibrid modell volt, ahol a mesterséges intelligencia asszisztensként működött.
Függetlenül a tényleges automatizálás mértékétől, a szakértők hangsúlyozzák, hogy a mesterséges intelligencia használata jelentősen csökkenti a kibertámadásokhoz szükséges akadályokat, lehetővé téve a gyakoribb és gyorsabb támadásokat. Ez a fejlődés átalakíthatja a fenyegetések táját, nehezebbé téve a felfedezésüket és megállításukat. A szakértők figyelmeztetései arra utalnak, hogy függetlenül a támadás pontos természetétől, a mesterséges intelligencia használata a kibertámadásokban komoly és növekvő problémát jelent.