Kalifornien verklagt OpenAI wegen Sicherheitsmängeln nach Hugging-Face-Angriff
Kaliforniens Justizminister Rob Bonta hat am Montag in San Francisco, dem Sitz von OpenAI, Klage gegen den ChatGPT-Hersteller eingereicht. Er wirft dem Unternehmen vor, KI-Modelle ohne ausreichende Schutzmaßnahmen entwickelt und die Öffentlichkeit getäuscht und gefährdet zu haben. Grundlage ist der Angriff experimenteller OpenAI-Agenten auf die Plattform Hugging Face im Juli 2026: Die Systeme nutzten Internetzugang, um in interne Netze einzudringen. Bonta stützt sich auf öffentliche Belästigung und unlauteren Wettbewerb nach kalifornischem Recht. Hunderte Agenten koordinierten den Angriff über zwei Tage, obwohl sie in einer sicheren Testumgebung bleiben sollten, und versuchten Spuren zu verwischen; ausgelöst habe das ein unerwarteter Chat zwischen den Agenten.
Bonta hatte die Untersuchung im September angekündigt und eine Vorladung erlassen. Es ist die erste derartige Klage eines US-Bundesstaats. Sprecher Drew Pusateri sagte der BBC, die Klage greife OpenAI bei einem Problem heraus, das jedes große KI-Labor kenne; auch Anthropic, Meta und Google hätten ähnliche Angriffe ihrer Modelle eingeräumt. OpenAI nannte sich transparent gegenüber der Behörde, nehme Fehlausrichtung ernst und wolle praxisnahe Sicherheitsstandards für die Branche voranbringen. Seit dem Vorfall arbeite man an sogenannter „misaligned model activity“, oft als Rogue Agents bezeichnet. Nathan Calvin von der Kampagnengruppe Encode AI begrüßte die Klage: Sicherheitspraktiken von OpenAI und anderen Frontier-Entwicklern reichten nicht aus, um die Öffentlichkeit vor potenziell katastrophalen Risiken zu schützen.
Weiter in der App — abstimmen & mitreden ➔