Elon Musk souligne les dangers de l'intelligence artificielle, avertissant qu'elle peut générer des conclusions erronées sans guidance de vérité, de beauté et de curiosité.

Le milliardaire Elon Musk a exprimé de sérieuses inquiétudes concernant l'intelligence artificielle (IA) lors d'un podcast avec Nikhil Kamath, soulignant que la technologie peut devenir dangereuse sans un développement prudent. Musk a déclaré qu'il n'y a aucune garantie pour un avenir positif avec l'IA, avertissant qu'elle peut devenir destructrice si elle absorbe des informations fausses. Il a critiqué le rythme accéléré des progrès dans ce domaine et a décrit l'IA comme l'un des plus grands risques pour la civilisation.

Musk a souligné l'importance de guider l'IA selon trois principes fondamentaux : la vérité, la beauté et la curiosité. Sans ces repères, les modèles d'IA risquent d'arriver à des conclusions erronées et de générer des réponses fabriquées, un phénomène qu'il a qualifié d'"hallucinations". De plus, Musk a mentionné que l'appréciation de la beauté aide l'IA à reconnaître l'harmonie, et que la curiosité est essentielle pour explorer la réalité.

Ses avertissements rejoignent ceux exprimés par d'autres experts du domaine, comme Geoffrey Hinton, qui a estimé une probabilité de 10%-20% que l'IA devienne une menace existentielle.