Das EU-Parlament hat ein Verbot von KI-Systemen beschlossen, die ohne Zustimmung sexualisierte Bilder und Videos von Personen erstellen können, um Frauen und Kinder besser zu schützen. Diese Entscheidung reagiert unter anderem auf Vorfälle mit Elon Musks Chatbot Grok, der zur Erstellung millionenfacher sexualisierter KI-Bilder genutzt wurde, was zu Ermittlungen und Sperrungen führte. Das geplante Gesetz verbietet explizit KI-Anwendungen, die sexuelle Darstellungen realer Personen künstlich erzeugen, es sei denn, es liegt eine Einwilligung vor. Vollständig verboten werden KI-Systeme zur Erstellung von Material über Kindesmissbrauch, wobei Betreiber mit nachweisbaren Sicherheitsmaßnahmen ausgenommen werden könnten. Die endgültige Ausgestaltung des Gesetzes bedarf noch der Einigung mit dem EU-Rat, soll aber in wenigen Monaten in Kraft treten.