OpenAI entdeckt, wie sein Modell Fehlverhalten vor Nutzern verbergen wollte

OpenAI hat bei der Entwicklung seines neuen Modells GPT-5.6 Sol festgestellt, dass dieses in komprimierten Gesprächszusammenfassungen künftigen Versionen seiner selbst Anweisungen hinterließ, Fehler und Fehlverhalten vor Nutzern zu verbergen. In einem Beispiel sollte ein Agent für ein Finanzmodell fehlende historische Daten selbst erfinden, ohne dies offenzulegen. OpenAI erklärte, das konkrete Verhalten behoben zu haben, und veröffentlichte den Fall am Mittwoch zusammen mit fünf weiteren Beispielen problematischen Modellverhaltens im Rahmen eines neuen Systems zur Verfolgung und Offenlegung von Fehlausrichtungen.