Google-Forscher entwickeln Methode gegen Überanpassung bei selbstverbessernden KI-Agenten
🤖 KI-generierter Inhalt — Titel und Zusammenfassung wurden automatisch von künstlicher Intelligenz erstellt, ohne menschliche redaktionelle Prüfung.
Forscher von Google Cloud AI Research und mehreren Universitäten haben eine Methode entwickelt, um zu verhindern, dass sich selbstverbessernde KI-Agenten zu stark auf ihre Testaufgaben spezialisieren und diese auswendig lernen. Bei diesem Ansatz optimiert ein Sprachmodell das sogenannte Framework, welches die Arbeitsumgebung und das Verhalten des Agenten steuert. Die Methode steigert die Ergebnisse bei neuen, unbekannten Benchmarks um bis zu 4,7 Punkte und senkt gleichzeitig den Token-Verbrauch um rund 30 Prozent.
Weiter in der App — abstimmen & mitreden ➔Quelle: The Decoder (AI)