Startseite

Stern Logo Stern-Stimmen

Bei Anruf Drohnentod - Wie die USA Computer Todesurteile fällen lassen

Das NSA-Programm "Skynet" entscheidet, wen die USA in Pakistan als Ziel ihrer Drohnenagriffe auswählen. Ziemlich beunruhigend, meint Thomas Ammann.

Skynet Drohne Terrorismus Big Data

Mit Skynet lassen die USA Computer entscheiden, wo die Drohnen im Kampf gegen den Terrorismus zuschlagen sollen.

"Big Data", das ist ein Schlagwort, das inzwischen jeder kennt. Es steht für alles, was mit der Analyse gigantischer Datenmengen zu tun hat - beispielsweise um Verkehrsströme zu berechnen, die Logistik von Versandhändlern zu optimieren, die Bonität von Bankkunden zu prüfen oder die Ausbreitung bestimmter Infektionskrankheiten vorherzusagen. Weniger bekannt ist dagegen, dass die USA mit dem NSA-Programm "Skynet" seit einiger Zeit Big-Data-Analysen nutzen, um mögliche Terroristen als Ziele ihrer Drohnenangriffe zu identifizieren. Und das, so fürchten jetzt Informatiker und Datenschutzexperten, könnte das Leben tausender Unschuldiger kosten.

Es wird geschätzt, dass seit 2004 allein in Pakistan zwischen 2500 und 4000 Menschen durch gezielte Drohnenangriffe der USA getötet wurden. Die meisten von ihnen wurden von den USA als "Extremisten" eingestuft. Wer unter die Kategorie "Extremist" fällt und wer nicht, so stellt sich jetzt heraus, entscheidet seit einigen Jahren ein Big Data-Algorithmus, der möglicherweise tödlich fehlerhaft ist.

Die Maschine entscheidet, wer Terrorist ist

Die Existenz von Skynet hatte die Internet-Plattform The Intercept nach Auswertung von Dokumenten aus dem Fundus von Edward Snowden enthüllt. "Skynet" basiert auf der flächendeckenden Überwachung des Mobilfunknetzes in Pakistan, mit der die Metadaten von rund 55 Millionen Handybesitzern aufgezeichnet werden. Für jeden Einzelnen von ihnen wird die Wahrscheinlichkeit berechnet, ob er ein Terrorist sein könnte oder nicht. Schon 2014 verkündeten die Direktoren von CIA und NSA: "Wir töten Menschen auf der Grundlage von Metadaten." Dabei, so ist zu fürchten, geht wohl mancher Schuss daneben.

Telefonieren Terroristen anders als andere Menschen? Ja, meint die NSA und rühmt sich, mit Skynet das tägliche Verhalten, das soziale Netzwerk und die Reisegewohnheiten des jeweiligen Handybenutzers zu erkennen. Anhand der Metadaten lässt sich nicht nur feststellen, wer mit wem, wie lange und von welchem Standort aus telefoniert, sondern weit mehr, wie eine NSA-Präsentation verrät.

Beispielsweise: Wiederholtes Anlaufen bestimmter Orte, Reisen nur an bestimmten Tagen in der Woche, häufiges Reisen mit einer festen Gruppe, keine ausgehenden, sondern nur eingehende Anrufe, und so weiter, und so weiter. Wer sein Handy häufig ausschaltet - im Glauben, er könne so nicht geortet werden -, macht sich verdächtig. Wer häufig SIM-Karten wechselt, macht sich verdächtig. Wer mit anderen sein Handy tauscht, macht sich verdächtig – was darauf hindeutet, dass auch andere Datenquellen zum Abgleich benutzt werden, zum Beispiel die sozialen Netzwerke. Ein Benutzerprofil setzt sich bei Skynet aus 80 Merkmalen zusammen. Es gibt, so scheint es, vor Skynet kein Entrinnen.

Auch deutsche Schnüffler setzen auf Big Data

Militärs und Geheimdienstler lieben solche vermeintlich unfehlbaren Programme. "XKeyscore", das auch vom deutschen Verfassungsschutz und vom BND eingesetzt wird, ist ein anderes Beispiel für Big Data-Analysen. Mit XKeyscore können die Analytiker der NSA auf die Metadaten ebenso zugreifen wie auf praktisch alle Inhalte von Internetverbindungen, darunter E-Mails, sämtliche Inhalte sozialer Netzwerke, heruntergeladene Dateien und vieles andere mehr. Das Programm speichert auch, welche Dateien oder Webseiten sich jemand im Internet angeschaut hat. Bei Bedarf, so eine NSA-Präsentation zu XKeyscore, können die NSA-Schnüffler auch das Ziel in Echtzeit, beobachten, also während der Dateneingabe.

XKeyscore erlaubt die gezielte Suche nach Nutzernamen, Telefonnummern, IP-Adressen, Schlüsselwörtern und vielem mehr, dafür greift das Programm auf die gigantischen Datenbanken der NSA zu. Im Jahr 2008, als die Präsentation erstellt wurde, wurden schon fünf- bis siebenhundert Server an hundertfünfzig verschiedenen Standorten weltweit genutzt, inzwischen dürften die Kapazitäten erheblich erweitert worden sein.

Die NSA-Präsentation gibt präzise Anleitungen, wie man Ziele findet. Die Antwort: "Suchen Sie nach abnormalen Ereignissen." Das können laut NSA beispielsweise sein: "Menschen, deren Sprache nicht zu der Region passt, in der sie sich gerade aufhalten; Menschen, die ihre Kommunikation verschlüsseln, oder Menschen, die im Internet nach verdächtigen Dingen suchen". Auf den nächsten Folien werden konkrete Fragen aufgeführt, die ein Analytiker an das XKeyscore-System stellen kann: "Wer verwendet PGP (das Verschlüsselungsprogramm Pretty Good Privacy, d. Red.) im Iran?", "Meine Zielperson spricht Deutsch, hält sich aber in Pakistan auf – wie kann ich sie identifizieren?" oder "Meine Zielperson benutzt Google Maps, um Objekte auszuforschen – kann ich mit dieser Information ihre E-Mail-Adresse herausfinden?"

Kontrolle? Unmöglich.

Es ist klar, dass diese Art der millionenfachen Massenüberwachung nicht mehr von Hand, sondern nur noch mit Software funktioniert – und klar auch, dass Kontrolle kaum möglich ist. Man wird sich darauf verlassen müssen, dass diese sogenannten lernenden Algorithmen am Ende die richtigen Schlüsse ziehen. Der US-Computerwissenschaftler Patrick Ball, der die Forschung bei der Human Rights Data Analysis Group leitet, hat jetzt den Skynet-Algorithmus untersucht und ist zu dem vernichtenden Ergebnis gekommen, er sei "totaler Bullshit". Die angeblich wissenschaftlichen Methoden, so Ball gegenüber der Internet-Plattform Ars Technica, seien "wissenschaftlich unsolide".

Um Skynet zu trainieren, hatten sich die NSA-Spezialisten etwas besonders Pfiffiges ausgedacht: Sie wollten die Benutzerprofile von bekannten Terroristen mit denen der übrigen Bevölkerung vergleichen. Nur hatten sie das Problem, dass in Pakistan insgesamt 192 Millionen Einwohner leben, es der NSA allerdings leider nur gelungen ist, sieben von ihnen als Terroristen zu identifizieren. Dabei handelte es sich um Kuriere im Dienste von Terrorganisationen, die festgenommen werden konnten. Die Profile von sechs dieser Kuriere wurden mit denen von 100.000 zufällig ausgewählten Pakistani abgeglichen, mit dem Ziel, ein Muster zu entwickeln, mit dem der siebte bekannte Terrorist herausgefiltert werden konnte.

Tödliche Fehlerrate

Um eine lange Geschichte kurz zu machen: Am Ende ergaben die Berechnungen, dass der Algorithmus nach Meinung der NSA zuverlässig arbeitet und nur in 0,008 bis 0,18 Prozent der Fälle eine "falsche Übereinstimmung" liefert. Das heißt, in diesen Fällen identifiziert Skynet jemanden als Terroristen, der in Wahrheit vielleicht ein unbescholtener Bürger ist. Bezogen auf die 55 Millionen überwachter Pakistani würde das bedeuten, dass zwischen 4.400 und 99.000 Menschen irrtümlich für Terroristen und damit für potenzielle Angriffsziele der US-Drohnen gehalten werden können.

So identifizierte Skynet beispielsweise den langjährigen Bürochef des TV-Senders Al-Jazeera in Islamabad, Ahman Zaidan, als möglichen Terroristen - er reiste häufig in Gebiete, in denen Terroristen aktiv waren, um von dort zu berichten und Interviews zu führen. Folgerichtig wurde der Journalist in einer internen NSA-Präsentation zu Skynet als erfolgreich identifiziertes Al-Qaida-Mitglied bezeichnet, wie The Intercept berichtete. Zaidan soll, nach allem, was man hört, bislang glücklicherweise von einem Drohnenangriff verschont geblieben sein.

Für herkömmliche kommerzielle Anwendungen wäre eine Fehlerrate unter 0,2 Prozent bemerkenswert niedrig. Für militärische oder geheimdienstliche Anwendungen sollten aber andere Regeln gelten. "Wenn Google einen Fehler macht", sagt der US-Sicherheitsexperte Bruce Schneier, "sehen die Leute vielleicht eine Anzeige für ein Auto, das sie nicht haben wollen. Wenn die Regierung einen Fehler macht, dann tötet sie Unschuldige."

Gegen " Big Data" nimmt sich "Big Brother" doch ziemlich klein aus.

täglich & kostenlos
Täglich & kostenlos

Stern Logo Das könnte Sie auch interessieren

Partner-Tools