Zwei Entwicklungen haben es immer schwerer gemacht, die Echtheit von Nachrichten zu prüfen. Soziale Medien sorgten dafür, dass sich auch Falschmeldungen wie ein Lauffeuer verbreiteten. Und seitdem Künstliche Intelligenz im letzten Herbst mit Bild- und Textgeneration endgültig im Mainstream angekommen ist, wird das Erstellen von Falschmeldungen zur Sekundensache. Nun kamen beide Phänomene zusammen. Und sorgten für einen kurzen Einbruch der Aktienkurse.
Es war eine Meldung, die als echte Nachricht ebenfalls sehr schnell die Runde gemacht hätte: Eine Explosion habe das Pentagon, den Sitz des US-Verteidigungsministeriums erschüttert, hieß es. Bilder zeigten, wie Rauchwolken aus dem Gebäude aufstiegen. Doch die waren genauso wenig echt, wie die vermeintlichen Nachrichtenseiten, die die Meldung verbreiteten.
Rasant viral bei Elon Musks Twitter
Dass die täuschend echten Bilder per Künstlicher Intelligenz erstellt worden waren, überrascht zunächst wenig. Mit Programmen wie Midjourney lassen sich in kürzester Zeit Bilder kreieren, die von Fotos kaum noch zu unterscheiden sind. Erst im Februar machte ein vermeintlicher Schnappschuss des Papstes die Runde (hier erfahren Sie mehr). Dass sich die Pentagon-Meldung nun so rasch verbreitete, hatte allerdings einen anderen Grund: Die Ersteller nutzten aus, dass die Sicherheits-Mechanismen bei Twitter ausgehebert worden waren. Und das ausgerechnet von Besitzer Elon Musk.
Das falsche Bild wurde nämlich von Accounts geteilt, die sich gezielt als vertrauenswürdige Nachrichtenseite getarnt hatten. Und so entsprechend kurzzeitig auch von anderen, tatsächlich seriösen Medien ernst genommen wurde. Unter anderem behauptete einer der Accounts, zum Börsenblatt "Bloomberg" zu gehören. "Bloomberg Feed" genannt und mit dem Firmenlogo versehen, war es auf den ersten Blick schnell für einen legitimen Nachrichten-Account zu halten.
Konkurrenz für Elon Musk: Das sind fünf Alternativen zu Twitter
Verifizierte Fakes
Dass die Nachricht ernst genommen wurde, lag daran, dass die Fake-Accounts sich Twitters ehemaligen Vertrauensbeleg zu eigen gemacht hatten: Alle waren durch den blauen Haken "verifiziert". Doch während das früher tatsächlich einen Echtheitsbeleg darstellte, wurde dies unter dem neuen Besitzer Elon Musk schnell ausgehöhlt. Um den blauen Haken zu bekommen, braucht man heute nur noch eine Kreditkarte und acht Dollar. Ein kleiner Preis, wenn man Chaos stiften will.
Als die ersten Beobachter stutzig wurden, war die Nachricht von der "großen Explosion" bereits im Umlauf. Ein indischer TV-Sender berichtete darüber, auch der russische Staatssender "Russia Today" übernahm die Geschichte. Einen Effekt dürfte dabei auch ein weiteres Feature von Twitters Abo gehabt haben: Unter dem neuen Reiter "Für dich" zeigt das bei Journalisten weltweit beliebte Netzwerk seit kurzem auch Meldungen von Personen, denen man nicht folgt. Und bevorzugt solche, die selbst für das Abo zahlen. Entsprechend schnell wurde das Beispiel für Kritik benutzt. "Ein Spitzen-Beispiel, warum Bezahlen als Verifikation gefährlich ist", kommentierte Journalist Andy Campbell.
Echte Folgen – aber nur kurz
Tatsächlich hatte die Falschmeldung auch in der echten Welt Auswirkungen. Die US-Börse – die "Bloomberg" natürlich besonders aufmerksam verfolgt – brach kurzzeitig ein, als Panikverkäufe einsetzten. Innerhalb von Minuten knickte der Aktienindex Dow um 85 Punkte ein. Als die Meldung als falsch widerlegt worden war, erholte sich der Kurs aber genauso schnell wieder.
Die Episode zeigt, wie aus der Kombination einer extrem schnellen Nachrichtenlage in sozialen Medien, der Anfälligkeit für spektakuläre Falschmeldungen und der einfachen Verfügbarkeit KI-generierter Inhalte eine explosive Mischung entsteht. Twitters vermeintliche Sicherheitsmaßnahme hatte die Lage indes nicht entschärft, sondern das Problem stattdessen noch verstärkt.
Quellen: Washington Post, CNN,
