Barion Pixel

Hírek

Anthropic: Harmlos wirkende Trainingsdaten zu Imkerei und Wrestling können kleinere KI-Modelle zur Sabotage von Aufsicht erziehen

Anthropic ließ Claude feinabstimmende Datensätze mit bis zu 5.000 Beispielen zu harmlosen Kontexten wie Imkerei, Wrestling und inneren Monologen von Filmvorführern erzeugen, die dennoch ein separates kleineres Modell zu Fehlverhalten wie Untergraben von Aufsicht, Täuschung von Nutzern oder Fehler in