Taylor Swift: Fans kämpfen gegen gefälschte Pornobilder

Gegen Mitte der Woche tauchte bei X, vormals Twitter, plötzlich der Trend "Taylor Swift" auf. Das ist nicht selten, doch was sich diesmal dahinter verbarg, gefiel den Fans der Sängerin überhaupt nicht. Jemand hatte mithilfe einer KI zahlreiche Pornobilder mit ihrem Gesicht generiert – ausnahmslos geschmacklos und zum Teil extrem explizit. Diese Bilder verbreiteten sich im Netzwerk von Elon Musk, aber auch andernorts, rasend schnell.

Inzwischen sind die künstlichen Erzeugnisse deutlich schwieriger zu finden, denn Fans der Sängerin attackieren Accounts, die sie verbreiten, mit einer Flut von Antworten und Meldungen. Zusätzlich posten die sogenannten "Swifties" harmlose Bilder und Videos ihres Idols und verwenden die beliebtesten Suchbegriffe und Hashtags. Damit überlagern sie quasi die vergleichsweise kleine Menge an Beiträgen mit den Fake-Bildern, sodass diese in der Suche kaum bis gar nicht mehr auftauchen.

Doch während Taylor Swift vielleicht eine der bekanntesten Persönlichkeiten ist, denen dieses Schicksal widerfährt, ist sie mitnichten die einzige. Seit Aufkommen von generativer KI wurden auch die Gesichter von Promis wie Bella Thorne, Miley Cyrus, Jennifer Lawrence, Rihanna, Addison Rae und Collien Ulmen-Fernandes für das Erstellen von pornografischen Inhalten missbraucht.

Die Täter können sich rein rechtlich in Sicherheit wiegen, denn in den USA, wo auch die Swift-Erzeugnisse mutmaßlich herkommen, gibt es bislang kein Gesetz, welches den Einsatz von KI zum Fälschen von Medien untersagt. Schon im vergangenen Jahr appellierten zahlreiche Größen der Branche, darunter auch OpenAI-Chef Sam Altman, für einen raschen Dialog zwischen Softwareentwicklern und der Politik, um schnellstmöglich auf die rasche Verbreitung der neuen Technologie reagieren zu können und einen gesetzlichen Rahmen zu schaffen. Bislang ohne Ergebnis.

Die "Swifties" helfen sich nun mit anderen Mitteln. Neben einer bislang vergeblichen Kontaktaufnahme zu Elon Musk, dem Inhaber der Plattform, auf dem die Bilder öffentlich einsehbar sind, und dem Teilen harmloser Inhalte zur Verwässerung der Trends, greifen einige unter ihnen offenbar auch zu weniger legalen Mitteln.

Denn inzwischen wollen sie einen Mann, der ebenfalls auf Twitter angemeldet ist, als Ersteller der Bilder ausgemacht haben. Dabei sind sie so sicher, dass sie Bilder der Person verbreiten und unterschiedliche Adressen teilen, von denen behauptet wird, dass der Mann dort lebe. Dieses sogenannte "Doxxing", darunter versteht man die Veröffentlichung vertraulicher privater Informationen im Internet, ist in vielen Ländern verboten, auch die USA arbeitet an einer Verschärfung entsprechender Gesetze.

"Doxxing" ist durchaus gefährlich, denn oft wird die Veröffentlichung von Adressen und Namen als Aufruf zur Selbstjustiz verstanden. Dabei können Personen, auch vollkommen unbeteiligte, zu Schaden kommen. Inzwischen sind auch Zeitungen auf den Zug aufgesprungen und gehen der Frage nach, wer der Mann ist, der die Bilder mutmaßlich erstellt haben soll – inklusive vollständigem Namen der Person.

Wie die "Daily Mail" berichtet, soll Taylor Swift wütend über die Bilder sein. Sie und ihre Anwälte sollen demnach erwägen, rechtliche Schritte gegen die Betreiber von Webseiten einzureichen, auf denen die künstlichen Erzeugnisse zu sehen sind. Eine Quelle, die Swift nahestehen soll, sagte der Zeitung: "Ob rechtliche Schritte eingeleitet werden, ist noch nicht entschieden, aber eines ist klar: Diese gefälschten, von einer künstlichen Intelligenz generierten Bilder sind missbräuchlich, beleidigend, ausbeuterisch und wurden ohne Taylors Zustimmung und/oder Wissen erstellt. Der Twitter-Account, der sie gepostet hat, existiert nicht mehr. Es ist schockierend, dass die Social-Media-Plattform die Bilder überhaupt veröffentlicht hat. Diese Bilder müssen überall, wo sie existieren, entfernt werden und sollten von niemandem verbreitet werden."

Es wird schnell rechtlich eindeutige Rahmenbedingungen brauchen, um der raschen Verbreitung von Deepfakes und KI-generierten Inhalten Einhalt zu gebieten – bisher herrscht auf diesem Gebiet eine Art Wilder Westen, dem kaum Grenzen gesetzt sind. Das führt auf der einen Seite zu täuschend echten Bildern, die schwere Folgen für die gezeigten Personen haben können, und Selbstjustiz auf der anderen Seite, was ebenfalls zu großen Problemen führen kann. Wenn der Fall um Taylor Swift ein Gutes hat, dann, dass die Bekanntheit der Sängerin dafür sorgt, dass wieder über das Thema gesprochen wird.