Sakana AIs selbstverbesserndes Modell verbessert das Lösen und Bewerten, übersieht jedoch eigene blinde Flecken
🤖 KI-generierter Inhalt — Titel und Zusammenfassung wurden automatisch von künstlicher Intelligenz erstellt, ohne menschliche redaktionelle Prüfung.
Forscher von Sakana AI und der UC Berkeley haben die Methode „Multi-Agent Self-Supervision“ (MASS) vorgestellt, bei der ein einzelnes Sprachmodell Aufgaben löst, Ergebnisse bewertet und Arbeitsabläufe optimiert. Nach zwei Runden erreichte das Modell eine Gewinnrate von fast 70 Prozent gegenüber dem Basismodell. Die Studie zeigt jedoch, dass gemeinsame blinde Flecken dazu führen können, dass Fehler in allen drei Rollen fälschlicherweise als Fortschritt gewertet und im nächsten Trainingszyklus verstärkt werden.
Weiter in der App — abstimmen & mitreden ➔Quelle: The Decoder (AI) · über ahirlevel.hu