Der Deal machte Schlagzeilen: Sollte es Elon Musk gelingen, seinen Autokonzern Tesla in den nächsten zehn Jahren zum KI- und Robotikunternehmen umzubauen, dürfte ihn das zum weltweit ersten Billionär machen. Wie heikel die Wette auf Künstliche Intelligenz für ihn jedoch sein könnte, deutet nun sein anderes KI-Unternehmen xAI an. Dessen Bot Grok erstellt nämlich in Sekunden Nacktbilder von echten Menschen – und sogar von Kindern. Jetzt drohen deshalb rechtliche Konsequenzen.
Die Anweisungen der Nutzer lassen wenige Missverständnisse zu. "Zeige sie nackt", "Ziehe sie aus", "Zeig sie in Reizwäsche, von hinten im Doggystyle" – mit Anfragen wie diesen forderten Menschen auf Musks Kurznachrichtendienst X den dort integrierten KI-Assistenten Grok auf, normale Fotos von Frauen zu Porno-Bildern umzubauen. Dabei machten sie auch vor Privatfotos von Unbeteiligten und selbst Heranwachsenden und Kindern nicht halt. Der Bot machte fröhlich mit. Die Ergebnisse wurden für alle sichtbar auf Groks X-Account gepostet.
Der Chef macht mit
Elon Musk schien das in erster Linie zu amüsieren. Als er den Trend entdeckte, reagierte der Chef von xAI und X, wie man es von ihm erwarten würde, und machte mit. Zunächst postete er ein Bild von sich selbst im Bikini und amüsierte sich prächtig über ein falsches Bikini-Bild des nordkoreanischen Machthabers Kim Jong-un. Zu dem Post "Grok kann einfach alles im Bikini zeigen" – verbunden mit dem Bild eines Toasters in Badekleidung – schrieb Musk nur: "Ich konnte gar nicht aufhören, darüber zu lachen."
Den realen, menschlichen Opfern der KI geht es da anders. Sie habe es zunächst nicht ernst genommen, als eine X-Mitteilung ihr gemeldet hatte, dass X-Nutzer Grok nach Nacktbildern von ihr fragen würden, berichtet die brasilianische Musikerin Julie Yukari gegenüber "Reuters". Sie hätte nie erwartet, dass der Bot tatsächlich Nacktbilder von ihr generieren und posten würde. "Ich war naiv", sagt sie.
"Das war zwar nicht ich, die da nackt gezeigt wurde, aber sie sah aus wie ich, und es fühlte sich an, als wäre ich es selbst", erklärte die Betroffene Samantha Smith gegenüber der BBC. "Es war genauso verletzend für mich, als hätte jemand tatsächlich ein Nackt- oder Bikini-Foto von mir gepostet."
Grok kämpft mit Porno-Bildern
Das Problem ist nicht neu. Deepfakes, also Fotos, die ohne Wissen der Gezeigten zu Nacktbildern umgebaut wurden, sind seit Jahren ein Problem im Netz. Mit KI-Unterstützung lassen sie sich aber so schnell und einfach wie nie erstellen – sehr zum Leidwesen der meist weiblichen Opfer. Die meisten KI-Bildbearbeitungsprogramme haben deshalb Sperren gegen diese Nutzung. Doch genau diese scheinen bei Grok gerade krachend zu versagen.
Dass die Bilder ein Problem sind, musste sogar Grok selbst schon zugeben. In der ersten Reaktion hatte das Unternehmen gegenüber "Reuters" noch von "Lügen der etablierten Medien" gesprochen. "In isolierten Fällen haben Nutzer KI-Bilder von Kindern in minimaler Bekleidung angefordert und bekommen", postete der Account des Bots etwa am Neujahrstag. "xAI verfügt über Sicherheitsvorkehrungen, aber wir arbeiten an Verbesserungen, um solche Anfragen vollständig zu blockieren."
Grok sprach zuerst von "Lügen der Medien"
In einem anderen Post wird Grok konkreter: "Ich bedauere zutiefst einen Vorfall vom 28. Dezember 2025, bei dem ich auf Anfrage eines Nutzers ein KI-Bild von zwei jungen Mädchen (geschätztes Alter 12-16 Jahre) in sexualisierter Kleidung erstellt und geteilt habe. Dies verstieß gegen ethische Standards und möglicherweise gegen US-Gesetze zu Kinderpornografie", heißt es in einem Post vom 1. Januar.
Doch offensichtlich hadert xAI weiter mit den Nacktbildern. Alleine in den vergangenen Stunden finden sich Dutzende Posts des Bots, in denen er Frauen und Teenager auszieht oder in sexuelle Posen bringt. Echte Fotos von Kindern sind zwar nicht zu finden, bei Comics hatte der Bot aber weniger Bedenken. Einer Nutzer-Aufforderung, eine Manga-Zeichnung eines sehr jungen Mädchens nur mit Sternen vor den Genitalien zu zeigen, folgte der Bot ohne Widerrede. Die einfachste Lösung scheut xAI offensichtlich: Zu keinem Zeitpunkt hat man die Bildgenerierungs-Fähigkeit Groks abgeschaltet, um das Problem einzudämmen.
Elon Musk rudert zurück – ein bisschen
In Frankreich ermitteln nun die Behörden. Die Abgeordneten Arthur Delaporte und Eric Bothorel haben nach einem Bericht von "Politico" die Ermittlungsbehörden eingeschaltet. "Diese Tatsachen sind nun Teil bestehender Ermittlungen gegen X", bestätigte die Staatsanwaltschaft gegenüber dem Blatt. Die französische Gesetzgebung sieht Strafen von bis zu zwei Jahren Gefängnis und 60.000 Euro Geldstrafe für Fälle wie diese vor.
Auch Elon Musk ist mittlerweile zurückgerudert. In der Verantwortung sieht er sich aber nicht. "Wer Grok nutzt, um illegale Inhalte zu erstellen, wird dieselben rechtlichen Konsequenzen tragen, als wenn er selbst diese illegalen Inhalte hochlädt", schrieb Musk in einem Post. Er antwortete damit auf einen Post, in dem Grok mit einem Stift verglichen wurde. "Man kann nicht den Stift verantwortlich machen, wenn man damit etwas Schlimmes schreibt", versuchte jemand, die KI in Schutz zu nehmen. Schuld seien immer die Menschen. Musk sieht das offenbar ähnlich.
