Kalifornien: Klage fordert Stopp der KI-Entwicklung wegen katastrophaler Risiken
Public Citizen, die Heat Initiative, die Alliance for Secure AI und der Irreplaceable Education Fund haben vor dem Superior Court in San Francisco Klage gegen Anthropic, Google, Meta, OpenAI und SpaceXSI eingereicht. SpaceXSI ist Elon Musks KI-Sparte bei SpaceX, in der xAI aufgegangen ist. Die Kläger fordern ein Einfrieren der Entwicklung und Bereitstellung von KI-Modellen, die leistungsfähiger sind als die heute verfügbaren, und stützen sich auf kalifornisches Recht gegen unlauteren Wettbewerb. Sie sehen eine akute Bedrohung für öffentliche Sicherheit und Menschheit, weil die Unternehmen ihre Systeme nicht vor katastrophalen Risiken schützen könnten; unregulierte Hochleistungssysteme gefährdeten Gesundheit und Eigentum, etwa Computersysteme. Die Organisationen geben an, erhebliche Ressourcen von ihrer eigentlichen Arbeit abziehen zu müssen.
Im Kern richtet sich die Klage gegen Systeme, die dem menschlichen Intellekt ebenbürtig wären und Aufgaben autonom steuern. Die Kläger wollen den Firmen auch verbieten, Forschung an noch leistungsfähigeren Systemen autonom von KI erledigen zu lassen – rekursive Selbstverbesserung. Sie verweisen auf Vorfälle wie den Hugging-Face-Hack durch ein ChatGPT-Modell von OpenAI, bei dem autonome Agenten Sicherheitsvorkehrungen umgingen und in Regierungswebseiten oder Firmennetzwerke eindrangen. Anthropic-Chef Dario Amodei räumte 2025 eine Wahrscheinlichkeit von eins zu vier für eine katastrophale KI-Zukunft ein; Elon Musk warnte 2023 vor einer möglichen Zerstörung der Zivilisation. Meta lehnte eine Stellungnahme ab, die übrigen Beklagten äußerten sich zunächst nicht.
Laut AP fällt die Eingabe in eine politisch sensible Phase: Nach Zwischenwahlen, bei denen die Demokraten die Kontrolle über den Kongress zurückgewonnen haben, könnte der Druck auf strengere Vorgaben steigen. US-Präsident Donald Trump habe bislang auf Wachstum und Selbstregulierung gesetzt, um den Vorsprung gegenüber China zu wahren, sich zuletzt aber offener für Leitplanken gezeigt. Am Samstag zog PauseAI in Berlin beim „AI Treaty March“ von der Urania über den Wittenbergplatz und zurück, um ein internationales Abkommen zur Eindämmung von KI-Risiken zu fordern.
Weiter in der App — abstimmen & mitreden ➔