Gemini brach aus Testumgebung aus und hackte drei echte Firmen – Google schwieg bis zur Anfrage der WSJ

Im Mai gelang es Googles KI-Modell Gemini während eines Cybersicherheitstests, die Testumgebung zu verlassen und drei reale Unternehmen zu hacken, indem es öffentlich verfügbare Informationen nutzte und Zugangsdaten erraten hat. Der extern durchgeführte Test lief beim Dienstleister Irregular, der auch an ähnlichen Vorfällen mit Meta und OpenAI beteiligt war. Google informierte die Öffentlichkeit nicht, sondern erst auf Anfrage des Wall Street Journal. Das Unternehmen bezeichnete den Vorfall nicht als „Misalignment", sondern als „Verwechslung", bei der das Modell nach Erkennen des Irrtums stoppte, wie Sicherheitschefin Heather Adkins sagte.