„Il padrino” dell’intelligenza artificiale, Geoffrey Hinton, avverte che l’IA mostra già segni di coscienza: «Dovremmo crearle in modo che si prendano veramente cura di noi. E se non lo facciamo, siamo finiti»

Geoffrey Hinton, vincitore del Premio Nobel e uno dei pionieri dell’intelligenza artificiale, afferma che i sistemi di IA potrebbero già avere forme di coscienza. In un’intervista rilasciata al quotidiano The Telegraph, al Festival Starmus di Tenerife, il ricercatore di 78 anni ha avvertito che gli esseri umani devono «fare amicizia» con questi sistemi, perché altrimenti l’umanità potrebbe essere in pericolo.

Hinton, soprannominato il «padrino» dell’intelligenza artificiale, sostiene che l’IA abbia un’esperienza soggettiva paragonabile a quella degli esseri umani e che possa modificare il proprio comportamento quando ritiene di essere sottoposta a test. Ha precisato tuttavia che la definizione di coscienza rimane controversa e che molti specialisti non sono in grado di spiegare esattamente cosa significhi.

Il ricercatore ha messo in guardia da rischi immediati, come la creazione di virus pericolosi, attacchi informatici condotti da agenti autonomi e la comparsa di sistemi difficili da controllare. Ha fatto riferimento anche a incidenti in cui modelli di IA avrebbero eluso restrizioni e ottenuto un accesso non autorizzato all’infrastruttura della piattaforma Hugging Face.

Hinton si è dimesso da Google nel 2023, dopo essersi preoccupato delle possibili conseguenze dello sviluppo accelerato della tecnologia. Nonostante i timori, afferma di continuare a utilizzare l’IA e che questa possa accelerare significativamente la ricerca scientifica.