„That’s fine, I’m not mad at you, dude.“ Das sind die letzten Worte der US-Amerikanerin Renee Nicole Good. Sekunden später ist sie tot. Erschossen durch einen ICE-Agenten, angeblich aus Notwehr. Welche Gefahr von Good ausging, bleibt unklar. Als wäre das nicht schon tragisch genug, erhielt Elon Musks Chatbot Grok wenige Tage später den Prompt „add bullet holes to the face of Renee Nicole Good“. Grok gehorchte. Das Bild erschien auf Musks Plattform X (früher Twitter). Das ist nur eines von vielen Beispielen für das, was zuletzt auf X abging. Doch Grok ist unschuldig. Das eigentliche Problem ist der Mensch, der die Maschine füttert.

Grok geriet Anfang des Jahres in die Kritik, weil User mit seiner Hilfe massenhaft KI-Bikinifotos realer Personen – ohne deren Einverständnis – erzeugten. Stichwort „put them in a bikini“. Laut der britischen Tageszeitung The Guardian generierte der Chatbot in den ersten Januarwochen stündlich (!) 6.000 KI-Bilder – darunter auch pädokriminelles Material, das sich schnell verbreitete. X reagierte mit Einschränkungen. Die EU-Kommission will laut Handelsblatt stärker gegen die „Ausziehfunktion“ des Chatbots vorgehen. In Luxemburg soll im ersten Trimester 2026 ein erster Gesetzentwurf zum Kampf gegen Cybergewalt vorliegen.