OpenAI recrute un directeur pour la « préparation » avec un salaire de 555 000 dollars par an pour gérer les problèmes de sécurité des modèles.

Sam Altman, le PDG d'OpenAI, a annoncé sur les réseaux sociaux que l'entreprise recherche un directeur des risques, offrant un salaire annuel de 555 000 dollars. Cette personne sera responsable de l'expansion et de la coordination du programme de formation du Département des systèmes de sécurité, qui s'occupe de s'assurer que les modèles d'OpenAI fonctionnent comme prévu dans des contextes réels. Cependant, OpenAI fait face à des critiques et à des problèmes juridiques liés au comportement de ses modèles, y compris des accusations d'hallucinations et d'impact négatif sur la santé mentale des utilisateurs.

Altman a reconnu que les modèles peuvent avoir des effets négatifs et a souligné la nécessité de développer des stratégies pour évaluer et atténuer les risques. Le nouveau directeur devra identifier des moyens par lesquels les produits d'OpenAI pourraient nuire à la société et élaborer des critères pour démontrer que les risques ont été réduits. Dans le contexte où OpenAI vise à augmenter ses revenus de 13 milliards à 100 milliards de dollars au cours des deux prochaines années, ce rôle devient encore plus complexe, compte tenu de la pression pour lancer rapidement des produits innovants.