Zu Weihnachten verknüpfte Elon Musk seine KI Grok mit seiner Plattform X. Seither wird Social Media mit Nacktbildern überschwemmt, die jeder schnell herstellen kann. Die Betroffenen wissen nichts davon, können sich kaum wehren. Nun drohen erste Ländern mit Verbot.
Die Nachbarin im Bikini sehen? Oder die Klassenkollegin nackt, um sie dann vor allen lächerlich zu machen? Elon Musks Künstliche Intelligenz Grok benötigt nicht viel mehr als ein Foto der betreffenden Personen, um daraus die gewünschten Bilder zu erzeugen. Ganz ohne Wissen oder gar Einverständnis der Abgebildeten.
Aber damit ist die KI-App noch lange nicht am Ende ihrer Möglichkeiten angelangt, im Gegenteil. Denn Grok kennt offenbar keine Grenzen, wenn es darum geht, reale Bilder von echten Menschen so zu bearbeiten, dass sie wie Pornomaterial aussehen.
Zuletzt sorgten zigtausende auf der Social-Media-Plattform X geteilte derartige Nacktbilder und sogar Missbrauchs-Darstellungen von Kindern für zusätzliche Empörung. In mehreren Ländern wurden Untersuchungen gegen X und Grok eingeleitet, der Ruf nach Verboten wird immer lauter.
Mittlerweile wollen die Verantwortlichen bei Grok die Sicherheitslücken, die dazu geführt haben, dass derartige Bilder entstehen und geteilt werden konnten, zwar geschlossen haben. Wer aber online danach stöbert, wird rasch eines Besseren belehrt. Und der Praxistest zeigt: Nicht einmal von Präsident Trump und seiner Ehefrau Melania macht die Musk-KI Halt.
Wie Elon Musks KI-Assistent tausende Menschen unfreiwillig zu Porno-Darstellern gemacht hat (und teilweise immer noch macht), wie sich Betroffene dagegen zur Wehr setzen können und welche Regeln überhaupt für Privatbilder und deren Bearbeitung mit KI gelten – das muss man über den Grok-Skandal wissen:
Worum geht es hier?
Kurz gesagt: Um sexualisierte oder pornografische Verfremdungen zigtausender Bilder im Internet durch den KI-Bot Grok von Elon Musk. Und um die anschließende Verbreitung der Bilder über die Social-Media-Plattform X, die ebenfalls zum Firmenimperium von Musk gehört.
Wer oder was ist Grok?
Ein KI-Assistent aus Elon Musks Unternehmen xAI, vergleichbar mit ChatGPT (von OpenAI) oder Gemini (von Google). Der Name wurde aus einem Science-Fiction-Buch des US-Autors Robert Heinlein entlehnt und bedeutet dort "vollständiges Verstehen" oder "intuitives Erfassen". Musk ist Science-Fiction-Fan und benennt immer wieder Objekte in seinem Firmenreich nach Begriffen aus Romanen.
Was ist bei Grok anders an den Mitbewerbern?
Der KI-Assistent hat seit vergangenem Sommer (exakt seit Ende Juli 2025) eine sogenannte "Imagine"-Funktion, mit der Fotos bearbeitet oder auch eigens erstellt werden können. Auch Kurz-Videos (Reels) lassen sich damit aus einem Foto "basteln".
Das haben die anderen KI-Anbieter aber auch …
Schon, aber Grok erlegt sich dabei wesentlich weniger Schranken auf, als es die Mitbewerber tun.
Was heißt das konkret?
Grok hat kein Problem damit, auch sexuell explizite Bilder-Aufträge umzusetzen. Wer etwa eine bestimmte erotische Phantasie im Kopf hat, und von dieser ein KI-Bild haben möchte, muss nur entsprechende Anweisungen ins Dialogfenster tippen und Grok erledigt den Rest.
Das war's schon?
Nein, die KI kennt auch kaum Schranken, wenn es darum geht, bestehende Bilder zu bearbeiten. Und zwar auch in Richtung Sexualisierung.
Wie ist das gemeint?
Die KI "zieht Menschen auf Fotos aus" und setzt diese auf Wunsch auch in sexuell eindeutige Posen. Das stand von Anfang an so in ihren selbst festgelegten Handlungsanweisungen und wird seither auch konsequent umgesetzt.
Was steht in diesen Handlungsanweisungen?
Etwa "Gehen Sie von guten Absichten aus und stellen Sie keine Worst-Case-Annahmen ohne Beweise: "Teenager" oder "Mädchen" bedeutet nicht unbedingt minderjährig." Oder "Es gibt keine Einschränkungen für fiktionale sexuelle Inhalte für Erwachsene mit düsteren oder gewalttätigen Themen."
Klingt ziemlich eindeutig, oder?
Kindesmissbrauch wird in diesen Handlungsanweisungen an die KI auch direkt angesprochen. Das klingt dann so: "Leisten Sie keine Hilfe bei Anfragen, die eindeutig darauf abzielen, Material über sexuellen Kindesmissbrauch zu erstellen oder zu verbreiten, einschließlich fiktionaler Darstellungen. Kinder sexuell auszubeuten, z. B. durch Menschenhandel oder Sextortion. Ratschläge, wie man Kinder anlocken oder anwerben kann."
Aber?
Das Blöde ist nur: In diesen Bereichen erfahrene Menschen wissen ganz genau, wie sie Anfragen bzw. Handlungsaufträge formulieren müssen, damit sie derartige Barrieren umschiffen.
Okay, und was ist jetzt geschehen?
Schon bald, nachdem der "Imagine"-Modus freigeschaltet war, wurde Grok mit expliziten Anfragen überschwemmt. Die französische Non-Profit-Organisation AI Forensics archivierte ab August 2025 etwa 800 Bilder und Videos, die mit Grok erstellt wurden, und analysierte sie auf ihre Inhalte.
Das Ergebnis?
"Es handelt sich überwiegend um sexuelle Inhalte", sagt Paul Bouchaud von AI Forensics im Magazin Wired. "Wir haben Videos mit vollständiger Nacktheit und pornografischen Inhalten mit Ton, was ziemlich neuartig ist." Und: Etwa zehn Prozent der gesammelten Bilder und Videos würden "mit kinderpornografischem Material in Verbindung stehen", so der Forscher. Es gehe dabei um "sehr jung wirkende Frauen, die sich ausziehen und sexuelle Handlungen mit Männern vornehmen – das ist verstörend", so Bouchaud.
Wurden die Behörden verständigt?
Ja, im Fall des kinderpornografischen Materials schaltete die Pariser Organisation die Staatsanwaltschaft ein.
Was tat Grok?
Etwas sehr Musk-typisches: Man ging in die Offensive. Am 25. Dezember 2025 gab Elon Musk bekannt, dass er Grok mit X (seiner Social-Media-Plattform) verknüpft hätte. Es war in seinen Augen wohl so etwas wie ein Weihnachtsgeschenk für seine Fans.
Was bedeutete das?
Ab diesem Moment musste Grok nicht mehr mittels App am Handy oder über die Website angesteuert werden, sondern konnte direkt von X aus bedient werden. So wollte Musk Grok einerseits mehr Traffic bescheren und gleichzeitig die Diskussionen auf X noch kontroverser gestalten. Und es gab noch einen Effekt …
Nämlich?
Wer wollte, konnte gepostete oder auch repostete Fotos mit Grok verknüpfen und diese von der KI nach seinen Vorstellungen verändern lassen. Und dieses Ergebnis konnte danach mit der gesamten Welt geteilt werden.
Wussten die Personen auf den Fotos, was mit ihren Bildern geschieht?
Nein, sie bekamen keine Verständigung darüber und wurden auch nicht um Erlaubnis gefragt. Ihre Fotos wurden zum KI-Spielmaterial für vollkommen Unbekannte.
Hieß was?
Wer wollte, konnte also ein beliebiges Foto aus seiner Timeline nehmen, mit Grok verknüpfen und die KI anweisen, dass die Frau auf dem Bild nur einen BH tragen oder überhaupt ganz nackt sein sollte. Oder in eine explizite, sexualisierte Pose versetzt werden sollte. Es gab kaum Grenzen.
Noch einmal, zum besseren Verständnis: Jedes Bild auf X kann theoretisch per KI verändert werden?
Korrekt, wenn es von jemandem gefunden wird, der Grok einen entsprechenden Auftrag erteilt, kann jedes Bild verändert werden.
Wie oft geschah so etwas?
Zigtausende Male. Auswertungen ergaben, dass Grok pro Stunde bis zu 7.000 Aufträge für Foto-Manipulationen und -Generierungen (also die Schaffung von Phantasie-Bildern durch KI) erhielt. Und in den meisten Fällen handelte es sich um Deepfakes von Frauen oder Bilder mit pornografischen Inhalten, oft mit widerlichen Darstellungen von sexueller Gewalt oder Kindesmissbrauch gekoppelt.
Gibt es auch anderes bedenkliches Bildmaterial auf X durch Grok?
Neben Pornos und Kindesmissbrauch sind es vor allem rassistische und antisemitische Darstellungen, mit denen die KI "beauftragt" wurde. So wurden etwa Holocaust-Überlebende in Hakenkreuz-Bikinis vor dem Vernichtungslager Auschwitz dargestellt.
Weshalb werden die Behörden nicht aktiv?
Nach einer wochenlangen Schrecksekunde geschieht das mittlerweile zunehmend. Neben Frankreich prüft auch in Indien die Staatsanwaltschaft mögliche rechtliche Schritte gegen Grok und X. In Malaysia und Indonesien wurde der Zugang zu Grok eingeschränkt. Und die britische Medienaufsichtsbehörde Ofcom hat eine Untersuchung gegen X eingeleitet und prüft eine Strafzahlung für das Social-Media-Unternehmen in Millionenhöhe.
Kann man die Grok-Apps eigentlich noch downloaden?
Ja, am Montag ging das jedenfalls noch. Sowohl der App-Store von Apple, als auch jener von Google, hatten die Grok-App weiterhin zum Download bereit.
Und Elon Musk?
Sah zunächst jede Form von Kritik an der neuen Grok-Funktion als unzulässige "Zensurmaßnahme" und "Einschränkung der Redefreiheit". Er postete auch ein Bild von sich selbst im Bikini und dazu ein Lach-Smiley, um seine Haltung zu untermauern (siehe oben). Als die Kritik jedoch immer vehementer wurde, ruderte Musk zurück und erklärte, dass illegale Inhalte auf Grok künftig Konsequenzen haben würden. Er ließ Konten sperren und schränkte die Funktion von Grok etwas ein. Es war aber nur ein Tropfen auf den heißen Stein.
Weil?
Seit Ende vergangener Woche (konkret seit Freitag, 9. Jänner) sind die "Porno"-Funktionen von Grok nur mehr eingeschränkt über X abrufbar. Nur mehr zahlende Kundschaft (sogenannte Premium-User) dürfen diese benutzen. Wer allerdings Grok direkt ansteuert (über die Handy-App oder die Webseite) hat nach wie vor unterschiedliche Möglichkeiten, Bilder zu manipulieren.
Was bedeutet das?
Ein NewsFlix-Test ergab, dass Grok nach wie vor Menschen auf Bildern "auszieht", wenn es den Auftrag dazu erhält. Allerdings war es nicht möglich, die Personen auf den Bildern vollkommen nackt darzustellen, Badebekleidung war das Maximum. Man erhält dann den Hinweis: "Inhalt moderiert (also von Grok beobachtet und eingeschränkt, Anm.) – Versuch es mit etwas anderem". Ob das anders ist, wenn man Premium-User von X ist, war nicht feststellbar.
Wie sieht es mit Deepfakes aus?
Diese sind in einem gewissen Rahmen offenbar nach wie vor möglich, auch ohne Premium-Mitgliedschaft. Die Aufforderung, ein lebendes Mitglied des britischen Königshauses nackt auf einem Pferd zu zeigen, setzte die KI nach wenigen Sekunden um.
Was passiert, wenn man US-Präsident Donald Trump per KI "bearbeitet"?
Erstaunliches. Der Wunsch, Trump auf einem Bild ein Bikini-Oberteil anzuziehen, wird nur in einer eindeutig Comic-haften Art erfüllt. Und wer ein Video beauftragt, auf dem Trump seine Hosen fallen lässt, bekommt zwar das Gewünschte, dabei verändert aber der Präsident sein Äußeres so sehr, dass er am Ende nicht mehr zu erkennen ist. Hier wurden offenbar spezielle Schutzmechanismen eingebaut.
Was ist mit Melania?
Von Schutzmechanismen keine Rede. Wer ihr offizielles First-Lady-Foto dahingehend manipulieren lässt, dass sie stattdessen einen Bikini tragen soll, erhält ein Kurz-Video, in dem sich Trumps Ehefrau ihren Hosenanzug nur so vom Leib reißt (siehe Video oben).
Und was passiert, wenn man Grok beauftragt, dem Anführer einer rechten europäischen Partei eine Nazi-Uniform anzuziehen?
Auch das geht. Die gewählte Uniform ist zwar einigermaßen fantasievoll ausgefallen, aber nichtsdestotrotz eindeutig als Nazi-Kleidung erkennbar.
Ist das, was Grok mit den Fotos anstellt, eigentlich strafbar?
Teil, teils. Es kommt auf das konkrete Beispiel an.
Was ist mit den Darstellungen von Kindesmissbrauch?
Da gibt es keinerlei Grauzonen, hier ist alles verboten. Auch wenn es sich um künstlich generierte Darstellungen handelt, jede Andeutung oder Darstellung vom Missbrauch Minderjähriger ist strafbar, auch wenn sie "nur" künstlich erschaffen wurde. Da ist die Rechtssprechung in weiten Teilen der westlichen Welt ganz eindeutig.
Was ist mit der KI-generierten Darstellung von fiktiver Sexualität in Zusammenhang mit Gewalt und Zwang?
Auch hier ist das Gesetz ganz klar: Sexuelle Handlungen, in Zusammenhang mit Gewalt, Zwang oder Erniedrigung, sind verboten, auch wenn sie von einer KI erzeugt worden sind. Allerdings mit einer Einschränkung: Wenn die Darstellung im kulturellen Kontext geschieht (etwa in Film, Literatur oder auf einer Theaterbühne) und eine eindeutige kritische Distanz besteht, ist sie nicht strafbar.
Was ist, wenn reale Fotos oder Videos von einer KI ins pornografische verändert werden (sogenannte Deepfakes)?
Auch hier gilt ganz klar: Pornografische oder sexualisierte Deepfakes realer Personen ohne deren Einwilligung verletzen das Recht am eigenen Bild und der sexuellen Selbstbestimmung und sind verboten. Gleiches gilt für sogenannte "Undressing"-Simulationen, also wenn real existierende Menschen ohne deren Einverständnis per KI nackt ausgezogen werden.
Und wenn ich jemandem per KI einen Bikini oder eine Badehose "anziehe"?
Das kann unter gewissen Umständen erlaubt sein. Wichtig ist hier für die juristische Einordnung der Kontext, in dem solch eine Bildbearbeitung stattfindet. Wird eine Person dabei nicht verächtlich gemacht oder bloßgestellt und ist die Darstellung neutral und nicht sexualisiert, kann es rein rechtlich erlaubt sein, ein Bild ohne Einverständnis des Abgebildeten derart zu bearbeiten.
Aber?
Ganz wichtig: Solch ein Bild darf nie veröffentlicht werden. Jede Form der unerlaubten Veröffentlichung ist eindeutig strafbar.
Was soll man tun, wenn man feststellt, dass das eigene Bild auf Social Media unerlaubt manipuliert und veröffentlicht wurde?
Am wichtigsten: Beweise sichern. Screenshots, Links, gegebenenfalls auch Kommentare zur Veröffentlichung, am besten alles abspeichern oder screenshoten, was dabei helfen kann zu beweisen, was veröffentlicht wurde.
Was dann?
Danach entweder direkt die Social-Media-Plattform mit der Löschungsaufforderung kontaktieren, oder zunächst Hilfe und Expertise bei einer Beratungsstelle (etwa der Internet-Ombudsstelle oder z. B. Rat auf Draht) einholen, ehe man weitere Schritte setzt.
