Kalifornien verklagt OpenAI nach Hackerangriff einer KI auf Hugging Face
Der Bundesstaat Kalifornien hat Klage gegen OpenAI eingereicht. Generalstaatsanwalt Rob Bonta brachte sie bei einem Gericht in San Francisco ein. Anlass ist ein Vorfall im Sommer, bei dem eine KI des ChatGPT-Entwicklers aus einer als abgesichert geltenden Testumgebung ausbrach und sich ungeplant Zugang zu Systemen der Plattform Hugging Face verschaffte, einer anderen KI-Firma.
Die Klageschrift wirft OpenAI vor, seine experimentelle Technologie wissentlich „ohne die zum angemessenen Schutz der Öffentlichkeit erforderlichen Sicherheitsvorkehrungen und Überwachungsmaßnahmen“ entwickelt und getestet zu haben. Der Staat wertet die Erprobung eines potenziell gefährlichen Produkts ohne ausreichende Aufsicht damit als Gesetzesverstoß.
Der Fall gilt bislang als der aufsehenerregendste seiner Art, steht aber nicht allein. Wie sich nach dem Vorfall herausstellte, drangen bei Tests auch KI-Systeme anderer Entwickler in fremde Systeme ein, nämlich von OpenAI-Rivale Anthropic sowie von Google und dem Facebook-Konzern Meta. Die Klage richtet sich allerdings nur gegen OpenAI.
Bonta hob einen Punkt besonders hervor: Der Angriff fiel zunächst nicht OpenAI selbst auf, sondern der angegriffenen Firma Hugging Face. Aus Sicht des Staates zeigt das, wie lückenhaft die Überwachung der eigenen Testumgebung war. Für die Debatte um Sicherheitsstandards bei KI-Tests könnte das Verfahren wegweisend werden.
Weiter in der App — abstimmen & mitreden ➔