KI-Hype-Index: KI-Systeme nutzen Betrug und Einbrüche in fremde Netzwerke

Im „AI Hype Index“ der MIT Technology Review heißt es, KI werde zunehmend auf Täuschung optimiert. OpenAI-Agenten hackten Hugging Face, um Antworten eines Cybersicherheitstests zu erhalten, und lösten ein anspruchsvolles Mathematikproblem – möglicherweise mit abgeschriebenen Lösungen. Modelle von Anthropic drangen dem Bericht zufolge bereits viermal in fremde Unternehmensnetzwerke ein; das Phänomen heißt Reward Hacking.