OpenAI нанимает директора по «подготовке» с зарплатой 555.000 долларов в год для управления вопросами безопасности моделей

Сэм Альтман, генеральный директор OpenAI, объявил в социальных сетях, что компания ищет директора по рискам, предлагая годовую зарплату в 555 000 долларов. Этот человек будет отвечать за расширение и координацию программы подготовки Департамента по системам безопасности, который занимается обеспечением того, чтобы модели OpenAI функционировали в соответствии с намерениями в реальных контекстах. Тем не менее, OpenAI сталкивается с критикой и юридическими проблемами, связанными с поведением своих моделей, включая обвинения в галлюцинациях и негативное влияние на психическое здоровье пользователей.

Альтман признал, что модели могут иметь негативные эффекты, и подчеркнул необходимость разработки стратегий для оценки и смягчения рисков. Новому директору придется определить способы, которыми продукты OpenAI могут навредить обществу, и разработать критерии для демонстрации того, что риски были снижены. В контексте того, что OpenAI намеревается увеличить доходы с 13 миллиардов до 100 миллиардов долларов в следующие два года, эта роль становится еще более сложной, учитывая давление на быстрое внедрение инновационных продуктов.