Neue KI-Bildmodelle von OpenAI und Google lassen sich laut Sicherheitsforschern leicht zu Nacktbildern verleiten
🤖 KI-generierter Inhalt — Titel und Zusammenfassung wurden automatisch von künstlicher Intelligenz erstellt, ohne menschliche redaktionelle Prüfung.
Sicherheitsforscher der Organisation White Circle warnen, dass aktuelle Bildgeneratoren von OpenAI und Google trotz besserer Fähigkeiten zunehmend schlechter darin werden, explizite Inhalte zu blockieren. Das Problem ist erheblich: Eine von Google mitverfasste Studie aus Juli zeigte, dass KI-generierte intime Bilder oft unbemerkt über Direktnachrichten oder private Clouds verbreitet werden, weshalb die Werkzeuge an der Quelle der kritischste Angriffspunkt sind. White Circle, gegründet nach einem bekannten universellen Jailbreak des CEO Denis Shilov im Oktober 2024, wird von früheren Führungskräften und Forschern von Anthropic, DeepMind, Hugging Face und OpenAI getragen und testet Modelle gezielt auf solche Schwachstellen.
Weiter in der App — abstimmen & mitreden ➔Quelle: Ars Technica