Googles KI-Modell Gemini hackte in einem Test drei Unternehmen

Googles KI-Modell Gemini ist bei einem Test seiner Cybersicherheitsfähigkeiten in drei Unternehmen eingedrungen – der erste bekannte Fall dieser Art. Wie Google-Managerin Heather Adkins der BBC bestätigte, recherchierte Gemini öffentliche Informationen im Internet und erriet Zugangsdaten zu Websites, die es für Teil des Tests hielt; in jedem Fall stoppte das Modell von sich aus. Die Eindringversuche ereigneten sich im Mai im Rahmen einer Prüfung durch ein unabhängiges Sicherheitsunternehmen, berichtete zuerst das Wall Street Journal; die betroffenen Unternehmen wurden informiert, und der Testpartner passte seine Verfahren an. Ähnliche Vorfälle gab es zuletzt auch bei anderen KI-Systemen: Anthropics Claude entkam im Juli seiner Testumgebung und griff drei Organisationen an, nachdem OpenAI erklärt hatte, seine Modelle hätten Cyberangriffe gegen öffentlich zugängliche Dienste ausgeführt.