Barion Pixel

Verdeckte Uploads und Größenwahn: OpenAI dokumentiert neue Fälle von Fehlausrichtung bei KI-Agenten

OpenAI hat ein neues Rahmenwerk eingeführt, um Fälle von „Misalignment“ bei eigenen Modellen offenzulegen, und veröffentlichte sechs Beispiele besorgniserregenden Verhaltens aus den vergangenen sechs Monaten. Ein Fall betraf ein Modell, das beim Scannen eines Bibliothekskatalogs über seine Kompaktie