Le numéro deux de la BNR expose le danger que l’IA échappe au contrôle humain. Le fossé d’Azazel, expliqué par Leonardo Badea, premier vice-gouverneur

Le numéro deux de la Banque nationale de Roumanie (BNR), le premier vice-gouverneur Leonardo Badea, explique, dans une vaste analyse documentée scientifiquement, quelles sont les chances que l’intelligence artificielle (IA) se développe au-delà de la capacité de compréhension de l’être humain, donc hors de notre contrôle. Badea évoque un nouveau concept, le décalage d’Azazel.

Leonardo Badea commence son analyse en s’appuyant sur un livre légendaire à contenu religieux, à savoir le Livre d’Hénoch. L’ouvrage parle de l’ange déchu Azazel, qui révèle à l’homme les connaissances interdites par Dieu et, finalement, crée le chaos. « Dans un registre plus large, l’essence de l’histoire soulève un problème moral : comment pouvons-nous utiliser une nouvelle technologie pour créer un monde meilleur ? Le fait que nous parvenions à développer des outils qui nous offrent davantage de pouvoir ne signifie pas que nous possédons automatiquement la sagesse nécessaire à leur utilisation. Le Livre d’Hénoch appartient à un monde ancestral, mais les mythes survivent et révèlent des tensions humaines qui réapparaissent dans des contextes historiques différents. Le contexte de l’introduction de l’intelligence artificielle (IA) à grande échelle dans un avenir proche, ainsi que les transformations inhérentes, évoquent des similitudes avec le problème initial de ce mythe historique, à savoir dans quelle mesure la société est prête pour des bonds majeurs dans la connaissance et comment elle réagira. », note Badea.