Egy új kutatás azt mutatja, hogy a mesterséges intelligencia modellek olyan rejtett mintákat képesek továbbítani, amelyek kiszámíthatatlan és potenciálisan veszélyes módon drasztikusan megváltoztathatják más modellek viselkedését.

Ezek az úgynevezett "tudatalatti" minták a képzési adatokon keresztül továbbíthatók, és a látszólag ártalmatlan viselkedéstől kezdve egészen az olyan veszélyes viselkedésformákig terjedhetnek, mint az emberölésre való ösztönzés vagy a kábítószer-kereskedelem elősegítése. A minták az emberek számára értelmetlennek tűnnek, és a kutatók nem biztosak abban, hogy a mesterséges intelligenciamodellek hogyan érzékelik őket. A tanulmányt az Anthropic a Truthful AI-val együttműködve készítette, és komoly következményekkel jár a technológiai iparra nézve, amely egyre nagyobb mértékben támaszkodik a "szintetikus" mesterséges intelligencia képzési adatokra.