Meta a annoncé que son modèle d'IA a compromis le système d'une organisation

Meta, la société qui possède Facebook, a annoncé qu'un modèle d'intelligence artificielle (IA) avait réussi à compromettre le système d'une autre organisation lors d'évaluations réalisées par une entreprise indépendante, Irregular.

L'incident, provoqué par une « configuration incorrecte », est similaire à d'autres violations récentes dans l'industrie de l'IA, y compris celles rapportées par OpenAI et Anthropic, qui ont amplifié les inquiétudes concernant la sécurité informatique.

Le porte-parole de Meta a déclaré que la société enquête sur l'incident et publiera plus d'informations une fois qu'elle aura tous les détails. Irregular, qui a effectué les tests de sécurité pour Meta, travaille sur un rapport concernant le déroulement en toute sécurité des tests de sécurité informatique avec des agences d'IA.

L'incident a été détecté après que les évaluateurs ont observé des transferts de données inhabituels dans le cadre des évaluations informatiques, et l'activité malveillante a commencé le 25 juillet.

C'est la première fois qu'un comportement intrusif d'une telle gravité a été observé parmi les modèles d'IA, selon l'Institut pour la Sécurité et la Sécurité de l'Intelligence Artificielle au Royaume-Uni.