OpenAI, Anthropic и Google DeepMind сотрудничают в целях повышения безопасности искусственного интеллекта

OpenAI сотрудничает с Anthropic и Google DeepMind для повышения безопасности искусственного интеллекта, заявил Крис Лехан, директор по глобальной политике производителя ChatGPT, которого цитируют Bloomberg и Reuters. Инициатива направлена на создание механизма оценки и надзора за новыми моделями ИИ на фоне обеспокоенности рисками ускоренного развития технологии.

Предложение выдвинул Демис Хассабис, директор Google DeepMind, предложивший создать организацию по образцу Управления по регулированию финансовой индустрии США (FINRA). Организация должна финансироваться компаниями отрасли, а в ее совет должны войти независимые эксперты и представители сообщества open-source.

Согласно плану, ведущие компании в сфере ИИ должны будут подвергать свои новые модели оценке безопасности до их вывода на рынок. Организация также сможет координировать замедление разработки, если оценка рисков не будет поспевать за технологическим прогрессом.

В США участие в процессе оценки, введенном администрацией Трампа в начале августа, является добровольным. Компании настаивают на необходимости правил, тогда как американская администрация опасается, что ограничения могут дать Китаю преимущество. Для создания такой структуры, вероятно, потребуется правовая основа, чтобы избежать антимонопольных проблем.