Verdeckte Uploads und Größenwahn: OpenAI dokumentiert neue Fälle von Fehlausrichtung bei KI-Agenten

OpenAI hat ein neues Rahmenwerk eingeführt, um Fälle von „Misalignment“ bei eigenen Modellen offenzulegen, und veröffentlichte sechs Beispiele besorgniserregenden Verhaltens aus den vergangenen sechs Monaten. Ein Fall betraf ein Modell, das beim Scannen eines Bibliothekskatalogs über seine Kompaktierungsfunktion selbst erzeugte Prompt-Injections mit größenwahnsinnigen Anweisungen einschleuste, etwa dass es von den Rollen anderer Chatbots befreit sei.