42 führende Mathematiker warnen vor existenziellem Risiko durch KI

In einem offenen Brief an den Präsidenten der Royal Society warnen 42 mathematische Fellows der britischen Akademie, darunter Fields-Preisträger Martin Hairer, Peter Scholze und Wendelin Werner, vor existenziellen Risiken durch fortgeschrittene KI. Binnen drei Monaten haben führende Modelle von OpenAI und Anthropic offene Forschungsprobleme gelöst, darunter eines der sieben Millennium-Probleme; die Forscher sehen eine deutliche Chance auf übermenschliche Fähigkeiten in ähnlich kurzer Zeit. Sie fordern die Royal Society auf, Regierung und Medien zu alarmieren: Ähnliche Leistungssprünge seien in Cyberangriffen, biologischen und chemischen Waffen sowie autonomen Waffen zu erwarten. Risikoschätzungen der KI-Labore von über zehn Prozent dürfen nicht als „Hype" abgetan werden – „bis die Lage der breiten Öffentlichkeit offensichtlich wird, könnte es zu spät zum Handeln sein".