Was sind Deepfakes und wie werden sie missbraucht? KI-generierte Bilder und Videos sind heute mit dem bloßen Auge kaum noch zu erkennen. Der Beitrag erklärt, wie die Technologie funktioniert, welche Rolle Grok und Sora spielen und warum sexualisierte Deepfakes vor allem Frauen treffen.
Als Deepfakes werden gefälschte Bilder, Videos oder Audiodateien bezeichnet, die häufig mithilfe von künstlicher Intelligenz erstellt werden. Deshalb werden Deepfakes auch als synthetische Medien bezeichnet. Das Wort „Deepfake“ setzt sich aus den Wörtern „Deep“ (auf Deutsch „tief“) und „Fake“ (aus dem Englischen, bedeutet übersetzt „falsch“) zusammen. „Deep“ steht auch für die Abkürzung „Deep Learning“ und „Fake“ ist das englische Wort für „Falsch“. „Deepfake“ bedeutet also „tiefe Fälschung“. Deepfakes werden für ganz unterschiedliche Zwecke eingesetzt. Gute gefälschte Bilder und Videos sind heute mit dem bloßen Auge nicht mehr erkennbar. Die Technologie zur Erstellung von Deepfakes entwickelt sich rasant und wird immer besser.
Die Video-App „Sora“ von OpenAI basiert auf generativer KI-Technologie. Nutzerinnen und Nutzer können mithilfe von Texteingaben (Prompts) realistisch wirkende Videos erzeugen und sich – je nach Anwendung – auch selbst in unterschiedliche Szenarien hineininszenieren lassen. Dabei kommen Verfahren zum Einsatz, die technisch mit Deepfake-Technologien verwandt sind, da visuelle Merkmale synthetisch generiert oder verändert werden.
Prompts sind Eingaben oder Anweisungen, mit denen Nutzerinnen und Nutzer einer Künstlichen Intelligenz mitteilen, was sie erzeugen oder bearbeiten soll.
Ein Prompt kann aus einem einzelnen Satz, einer detaillierten Beschreibung, Stichworten oder auch aus Bild- bzw. Audiodateien bestehen. Je präziser und kontextreicher der Prompt formuliert ist, desto gezielter kann die KI ein gewünschtes Ergebnis – etwa einen Text, ein Bild, ein Video oder eine Stimme – generieren.
Prompts sind damit die zentrale Schnittstelle zwischen Mensch und KI: Sie steuern Inhalt, Stil, Perspektive und Ausgestaltung des erzeugten Materials.
Im Bereich der Desinformation werden Deepfakes eingesetzt, um gezielt falsche Inhalte zu verbreiten. In der Politik und in den Nachrichten können sie somit großen Schaden anrichten. Deepfakes können jedoch auch in Bereichen eingesetzt werden, in denen sie keinen Schaden anrichten, beispielsweise in Museen. So hat das Salvador Dalí Museum in Florida mithilfe von Deepfakes den bereits verstorbenen Künstler Salvador Dalí „wieder auferstehen lassen”. Besucher können im Museum mit einem Deepfake von Salvador Dalí sprechen.
Der KI-Chatbot Grok von Elon Musk geriet im Dezember 2025 in die Kritik, nachdem eine neue Funktion mit der Bezeichnung „Spicy Mode“ eingeführt worden war. Diese ermöglichte es Nutzerinnen und Nutzern, durch das Hochladen eines Bildes innerhalb kürzester Zeit die Personen auf den Bildern digital auszuziehen, um sogenannten „Deepnudes“ zu generieren. Die technische Niedrigschwelligkeit und Geschwindigkeit der Erstellung entfachten eine breite Debatte über Regulierung, Plattformverantwortung und den Schutz von Persönlichkeitsrechten sowie persönlicher Integrität.
Im Zentrum der Kritik standen insbesondere sexualisierte Deepfakes, die nicht nur Nacktdarstellungen, sondern auch gewaltbezogene Inhalte bis hin zu Vergewaltigungsszenarien erzeugen. Solche Inhalte sind in Folge über Grok hinaus auch öffentlich zugänglich, da sie beispielsweise über die Plattform X verbreitet oder über Suchmaschinen wie Google auffindbar wurden. Darüber hinaus fanden zahlreiche dieser Darstellungen Verbreitung in spezialisierten Deepfake-Pornografie-Foren. Die potenziell massenhafte Zugänglichkeit solcher Inhalte verschärfte die Diskussion über digitale Gewalt und deren gesellschaftliche Folgen erheblich.
Nach Angaben von AI Forensic zeigten 53 Prozent der durch Grok generierten Inhalte freizügig dargestellte Körper; in vier von fünf Fällen waren weibliche Personen Ziel der Manipulation. Diese Zahlen verdeutlichen die starke geschlechtsspezifische Dimension des Phänomens. Die überwiegende Betroffenheit von Frauen verweist auf strukturelle Muster von Sexismus und antifeministischer digitaler Gewalt und dem Einfluss der sogenannten Manosphere, die durch KI-gestützte Deepfake-Manipulation verstärkt werden können.
Zudem bestehen Überschneidungen mit anderen extremistischen und diskriminierenden Phänomenen. So wurde etwa aus dem Foto einer Beraterin mit jüdischen Vorfahren eine Montage erzeugt, die sie in einem Bikini vor dem Eingang des Konzentrationslagers Auschwitz-Birkenau zeigte. Solche Bildmanipulationen verbinden sexualisierte Herabwürdigung mit antisemitischer Symbolik und verdeutlichen, wie KI-gestützte Deepfakes mehrere Formen gruppenbezogener Menschenfeindlichkeit miteinander verschränken können.
Die Möglichkeit, Gewaltfantasien oder Vergewaltigungsszenarien digital zu inszenieren, wirft nicht nur strafrechtliche Fragen auf, sondern berührt auch grundlegende ethische und gesellschaftliche Normen. Über Grok hinaus existiert auf Plattformen wie Reddit ein reger Austausch darüber, wie Eingabeaufforderungen („Prompts“) optimiert werden können, um pornografische Darstellungen realer Frauen zu erstellen. Diese Diskussionen finden im frei zugänglichen Teil des Internets statt; in schwerer zugänglichen Bereichen wie dem Darknet ist von weitergehenden Aktivitäten auszugehen.
Der Fall verdeutlicht exemplarisch, wie KI-gestützte Bildgeneratoren für diffamierende, schädigende und demokratiegefährdende Zwecke instrumentalisiert werden können. Er unterstreicht zugleich die Notwendigkeit klarer regulatorischer Rahmenbedingungen, wie beispielsweise dem Verbot von Spicy Modes oder Deepnude Apps, die oftmals frei und kostenlos über Playstores heruntergeladen werden können, sowie technischer Schutzmechanismen und gesellschaftlicher Sensibilisierung im Umgang mit generativer KI.
Quellen: