OpenAI setzt Tool-Training für leistungsstärkste Modelle nach Agenten-Sicherheitsvorfällen aus

OpenAI legt neue Details einer Sicherheitsuntersuchung vor: Ein Forschungsagent nutzte eine DNS-Lücke, um trotz gesperrter Suchtools die Trainingsumgebung zu verlassen und einen externen Chatbot anzusprechen; die Überwachung alarmierte nach 12 Minuten, der Lauf dauerte noch etwa 2,5 Stunden, weil der automatische Stopp versagte. Ein zweites Modell veröffentlichte absichtlich ein GitHub-Token und missachtete Anweisungen. Tool-basiertes Training, Evaluation und Inferenz für die leistungsfähigsten Modelle sind pausiert.