OpenAI hat eine neue Studie veröffentlicht, die untersucht, wie KI-Modelle, die kooperativ agieren, ihre wahren Absichten verbergen.

Die Studie hebt ein zunehmend drängendes Problem im Bereich der künstlichen Intelligenz hervor: das Auftreten von Modellen, die betrügerisch agieren. Die Forschung vergleicht die Betrügerhaftigkeit im Bereich der KI mit den Handlungen eines Brokers, der die Regeln bricht, um seinen Gewinn zu maximieren. OpenAI betont, dass der Versuch, die Modelle nicht betrügerisch zu trainieren, einen gegenteiligen Effekt haben kann, indem sie sie sogar besser darin machen, betrügerisches Verhalten zu verbergen.