Die Bilder verbreiteten sich in Windeseile. Ob als nackter Cheerleader, beim Blankziehen in der Limousine oder mitten im Akt: Pop-Megastar Taylor Swift war plötzlich zum Pornostar geworden. Dass die Bilder nicht echt waren, sondern mit KI erstellt wurden, schien viele nicht zu stören. Swift und ihre Fans waren verständlicherweise außer sich. Jetzt scheint X die Flut an Porno-Fakes endlich in den Griff bekommen zu haben. Auch Microsoft schob den Deepfakes technisch einen Riegel vor.
Die erste Notbremse wurde bei Elon Musks Kurznachrichtendienst X schon am Wochenende gezogen. Suchte man auf dem früher Twitter genannten Dienst nach Swift, spuckte die Seite nur eine Fehlermeldung aus. Man wolle "bei diesem Problem die Sicherheit an erste Stelle setzen", erklärte Joe Benarroch, Business-Chef bei X, die Maßnahme gegenüber dem "Wall Street Journal". Seit Montag funktioniert die Suche wieder. "Wir werden weiter achtsam bleiben, ob solche Inhalte geteilt werden und sie dann wieder entfernen", so Benarroch. Wie genau der Konzern das überwachen will, verriet er nicht.
Twitter-Chaos um Bilder von Taylor Swift
Tatsächlich hatten die falschen Pornobilder vor allem bei Twitter rasant die Runde gemacht. Die zuerst auf dem eher obskuren Imageboard 4chan und in Telegramkanälen verbreiteten Bilder bekamen erst größere Aufmerksamkeit, als sie auf dem Kurznachrichtendienst aufschlugen. Dort explodierte die Aufmerksamkeit regelrecht. Einzelne Bilder kamen laut "The Verge" auf über 45 Millionen Abrufe, wurden bis zu 25.000 Mal weitergeleitet.
Dass das möglich war, liegt auch am aktuellen Zustand des Dienstes – und damit mindestens indirekt in der Verantwortung Elon Musks. Kurz nach der Übernahme Twitters hatte der die Belegschaft radikal zusammengestrichen. Dass die Geldsparmaßnahme die Moderationsteams besonders hart traf, war dabei durchaus Absicht. Aus Musks Sicht war die Überwachung der geposteten Inhalte als Zensur zu betrachten – und stand seiner Vision einer Plattform für Meinungsfreiheit im Weg.
Dass nun die Suche nach Taylor Swift eingeschränkt wurde, sorgte entsprechend bei vielen Nutzer:innen für Skepsis. Schnell machte eine ganz andere Theorie die Runde: Die Sängerin hatte sich zuletzt mehrfach politisch klar positioniert – und im Rahmen der im Herbst anstehenden US-Wahl für die Demokraten getrommelt. Könnte der als konservativ geltende Musk die Suche auch deshalb eingeschränkt haben, um Swift eine Bühne zu nehmen? Dass die Suche nach der Sängerin seit Montag wieder normal funktioniert, dürfte diesen Theorien allerdings wieder den Wind aus den Segeln nehmen.
Ziemlich beste Freunde: Das ist der engste Zirkel von Taylor Swift
Microsoft sieht keinen Fehler – und behebt ihn
Auch in einer anderen Firma schoben Mitarbeitende am Wochenende wegen der Swift-Deepfakes offenbar Sonderschichten. In den Telegram-Kanälen und bei 4chan wurden Anleitungen verbreitet, wie man die KI des Microsoft-Programms "Designer" so austricksen kann, dass sie auch sexuelle Inhalte ausspuckt. Auch die Sperren, die eigentlich Darstellungen Prominenter verhindern sollen, ließen sich mit einfachen Mitteln aushebeln. So soll es ausgereicht haben, Namen bewusst falsch zu schreiben oder sexuelle Handlungen zu umschreiben, statt sie zu benennen.
Microsoft will keine Hinweise gefunden haben, dass die Fakes über die eigene Software erstellt wurden, erklärte der Konzern gegenüber "404 Media". "Wir haben große Teams, um Richtlinien und Sicherheitsmaßnahmen zu entwickeln, die eine verantwortungsvolle Nutzung von KI ermöglichen sollen", sagte ein Microsoft-Sprecher der Seite. Doch im Hintergrund passierte offenbar doch etwas. Die Lücken, die vor dem Wochenende nachweislich noch genutzt werden konnten, waren am Montag verschwunden.
Dass die Gefahr über Nacktbilder von Prominenten hinaus geht, ist auch im Weißen Haus angekommen. US-Präsident Joe Biden ließ in einer Pressekonferenz erklären, dass man die zunehmende Herausforderung ernst nehme und an Lösungen arbeite. Dabei geht es nicht nur um Prominente. "Wir wissen, dass junge Frauen und Mädchen von den Folgen dieser Technologie besonders betroffen sind", erklärte Pressesprecherin Karine Jean-Pierre.
Quellen: "Wall Street Journal", 404 Media, NBC
