OpenAI stellt einen Direktor für „Preparedness“ mit einem Gehalt von 555.000 Dollar pro Jahr ein, um die Sicherheitsprobleme der Modelle zu verwalten.

Sam Altman, der CEO von OpenAI, hat in den sozialen Medien angekündigt, dass das Unternehmen einen Direktor für Risiken sucht und ein Jahresgehalt von 555.000 Dollar anbietet. Diese Person wird verantwortlich sein für die Erweiterung und Koordination des Ausbildungsprogramms des Sicherheitsabteilung, das sicherstellt, dass die Modelle von OpenAI in realen Kontexten wie beabsichtigt funktionieren. Dennoch sieht sich OpenAI Kritik und rechtlichen Problemen im Zusammenhang mit dem Verhalten seiner Modelle gegenüber, einschließlich Vorwürfen von Halluzinationen und negativen Auswirkungen auf die psychische Gesundheit der Nutzer.

Altman hat anerkannt, dass die Modelle negative Auswirkungen haben können, und betont die Notwendigkeit, Strategien zu entwickeln, um Risiken zu bewerten und zu mindern. Der neue Direktor muss Wege identifizieren, wie die Produkte von OpenAI der Gesellschaft schaden könnten, und Kriterien entwickeln, um zu zeigen, dass die Risiken verringert wurden. Im Kontext, in dem OpenAI plant, die Einnahmen von 13 Milliarden auf 100 Milliarden Dollar in den nächsten zwei Jahren zu steigern, wird diese Rolle noch komplexer, da der Druck besteht, schnell innovative Produkte auf den Markt zu bringen.