Führende KI-Forscher warnen vor selbstverbessernder Superintelligenz und autonomen Cyberangriffen. Evan Hubinger beziffert das Risiko einer Auslöschung der Menschheit binnen zehn Jahren auf mehr als zehn Prozent. Dennoch verhindern zwei strukturelle Probleme bislang eine wirksame Regulierung.