Anthropic warnt vor der Nähe zur rekursiven Selbstverbesserung von KI
🤖 KI-generierter Inhalt — Titel und Zusammenfassung wurden automatisch von künstlicher Intelligenz erstellt, ohne menschliche redaktionelle Prüfung.
Anthropic warnt in einem Pflichtbericht, dass das Unternehmen kurz vor der Entwicklung von Modellen mit rekursiver Selbstverbesserung steht. Bei der sogenannten RSI trainiert sich die KI selbst, was die Leistungsfähigkeit drastisch beschleunigt. Während dies enorme Produktivität verspricht, birgt es laut dem Unternehmen erhebliche Sicherheitsrisiken, die unter die Responsible Scaling Policy fallen.
Weiter in der App — abstimmen & mitreden ➔Quelle: TechCrunch