Une nouvelle édition de l'Index de Sécurité de l'IA de l'Institut Future of Life montre que les principaux développeurs d'IA, tels qu'OpenAI et Meta, ne respectent pas les normes mondiales de sécurité.

Une nouvelle édition de l'Index de Sécurité de l'IA, publiée par le Future of Life Institute, conclut que les principaux développeurs d'intelligence artificielle, y compris OpenAI, Anthropic, xAI et Meta, ne respectent pas les normes mondiales émergentes de sécurité. Une équipe indépendante d'experts a évalué les pratiques de ces entreprises et a constaté qu'aucune d'entre elles n'a de stratégie suffisamment robuste pour le contrôle des systèmes superintelligents qu'elles développent. L'évaluation a mis en évidence une division claire dans les approches des entreprises en matière de sécurité, avec Anthropic, OpenAI et Google DeepMind en tête, mais avec des scores faibles, le meilleur performer n'ayant obtenu qu'un 'C+'. L'index a évalué 35 indicateurs de sécurité, y compris les pratiques d'évaluation des risques et la protection des lanceurs d'alerte. Le rapport recommande aux entreprises d'adopter des mesures telles qu'une transparence accrue, l'utilisation d'évaluateurs de sécurité indépendants et la réduction du lobbying contre la réglementation.