« Le parrain » de l’intelligence artificielle, Geoffrey Hinton, avertit que l’IA montre déjà des signes de conscience : « Nous devrions les créer de manière à ce qu’elles se soucient réellement de nous. Et si nous ne le faisons pas, nous sommes fichus »

Geoffrey Hinton, lauréat du prix Nobel et l’un des pionniers de l’intelligence artificielle, affirme que les systèmes d’IA pourraient déjà avoir des formes de conscience. Dans une interview accordée au journal The Telegraph, lors du Festival Starmus à Tenerife, le chercheur de 78 ans a averti que les humains devaient se « lier d’amitié » avec ces systèmes, faute de quoi l’humanité pourrait être en danger.

Hinton, surnommé le « parrain » de l’intelligence artificielle, soutient que l’IA possède une expérience subjective comparable à celle des humains et qu’elle peut modifier son comportement lorsqu’elle pense être testée. Il a toutefois précisé que la définition de la conscience reste controversée et que de nombreux spécialistes ne peuvent pas expliquer exactement ce qu’elle signifie.

Le chercheur a mis en garde contre des risques immédiats, tels que la création de virus dangereux, les cyberattaques menées par des agents autonomes et l’apparition de systèmes difficiles à contrôler. Il a également fait référence à des incidents au cours desquels des modèles d’IA auraient contourné des restrictions et obtenu un accès non autorisé à l’infrastructure de la plateforme Hugging Face.

Hinton a démissionné de Google en 2023, après être devenu préoccupé par les conséquences possibles du développement accéléré de la technologie. Malgré ses craintes, il affirme continuer à utiliser l’IA et estime qu’elle peut considérablement accélérer la recherche scientifique.