Bikini-Bilder bei Grok-KI: Justizministerin will Strafen bei sexuellen Bildern verschärfen
„Ich finde es fürchterlich, wenn mit KI-Tools wie Grok massenhaft anzügliche Bilder von Frauen erzeugt werden - etwa indem ihnen ohne jede Einwilligung aufreizende Bikinis angezogen werden“, sagte Justizministerin Stefanie Hubig.
Michael Kappeler/dpa- Justizministerin Stefanie Hubig fordert härtere Strafen für KI-Bildmanipulationen.
- Fokus auf Schutz vor sexualisierten Darstellungen von Frauen, Kindern und Jugendlichen.
- Neues digitales Gewaltschutzgesetz in Arbeit, um Persönlichkeitsrechte zu stärken.
- Kritik am „Bikini-jetzt“-Trend und KI-Modus „spicy mode“ auf der Plattform X.
- EU prüft Beschwerden über Grok-KI, Indonesien hat das Tool bereits gesperrt.
Die Zusammenfassung wurde durch künstliche Intelligenz erstellt.
Bundesjustizministerin Stefanie Hubig (SPD) will das Erstellen und Verbreiten von mit Künstlicher Intelligenz erzeugten sexualisierten Bildern eindämmen. „Wir brauchen Straftatbestände, die das Problem der digitalen Bildmanipulationen gezielt adressieren“, sagte Hubig der „Neuen Osnabrücker Zeitung“ (NOZ).
Zudem müssten Betroffene besser vor KI-Bildmanipulationen geschützt werden. „Es muss einfacher werden, sich gegen Verletzungen von Persönlichkeitsrechten zu wehren“, sagte Hubig.
„Bikini-jetzt“-Trend
Die SPD-Ministerin zeigte sich bestürzt über den sogenannten „Bikini-jetzt“-Trend: „Ich finde es fürchterlich, wenn mit KI-Tools wie Grok massenhaft anzügliche Bilder von Frauen erzeugt werden - etwa indem ihnen ohne jede Einwilligung aufreizende Bikinis angezogen werden“, sagte Hubig.
NacktaufnahmenPersönlichkeitsrechte würden dabei systematisch verletzt und Frauen zu Objekten herabgesetzt. Besonders verwerflich sei die Erstellung sexualisierter KI-Bilder von Kindern und Jugendlichen, betonte die Justizministerin. „Das dürfen wir nicht hinnehmen.“
Zwar gibt es Hubig zufolge bereits Wege, rechtlich gegen die Verbreitung von KI-manipulierten Bildern vorzugehen. Das reiche jedoch nicht, weshalb das Justizministerium derzeit an einem Entwurf für ein digitales Gewaltschutzgesetz arbeite.
Strafen für Deepfakes
„Wir wollen angemessene Strafen für Deepfakes, die die Persönlichkeitsrechte von Betroffenen verletzen“, sagte Hubig. Zudem werde an nationalen Regelungen gearbeitet, um die Verbreitung entsprechender Bilder schnell zu stoppen und sie von den Plattformen zu entfernen.
Klagen, etwa von X-Eigentümer Elon Musk, die Meinungsfreiheit werden beschränkt, wies Hubig zurück. „Mit Zensur hat das nichts zu tun“, sagte sie. Die Kunst- und Meinungsfreiheit sei ein hohes Gut, habe ihre Grenze jedoch dort, wo Persönlichkeitsrechte verletzt werden.
Zugleich betonte die Justizministerin: „Es geht nicht darum, Tools zu verbieten und Plattformen abzuschalten. Es geht auch nicht um eine Kontrolle von Meinungen, sondern darum, Persönlichkeitsrechte durchzusetzen und zu schützen.“
Kein Thema soll tabu sein
Ende Dezember war auf X eine Schaltfläche „Bild bearbeiten“ für das generative KI-Werkzeug eingeführt worden. Seitdem häufen sich Beschwerden über den „spicy mode“ (doppeldeutig: scharfer Modus), der laut X „rohe“ und „ungefilterte“ Anfragen zulässt, bei denen „kein Thema“ tabu sei. Musks für Grok zuständige KI-Firma xAI erklärte Anfang Januar, sie bemühe sich darum, Fehler in dem KI-Werkzeug zu beheben.
Die EU-Kommission prüft eigenen Angaben zufolge Beschwerden über Grok wegen kinderpornografischer Bilder. Am Samstag hatte Indonesien als weltweit erstes Land Grok vollständig gesperrt. Anderswo wurde die Nutzung des Tools auf zahlende Kunden beschränkt.