Wenn es um mögliche sexuelle Aufnahmen von Minderjährigen geht, meldet keine Webseite den US-Behörden so viele Verdachtsfälle wie Facebook. Jeden Tag sichten Tausende Moderator:innen Bilder und Videos, immer auf der Suche nach Verstößen gegen die Hausregeln oder geltendes Recht. Die Entscheidungen, die die Kontrollierenden jeden Tag treffen müssen, sind manchmal äußerst schwierig, denn das Alter abgebildeter Personen ist nicht immer eindeutig. Neue Richtlinien sollen helfen: Wie die New York Times berichtet, sei die Moderation angewiesen, im Zweifel von einer Volljährigkeit auszugehen.
Für den Facebook-Mutterkonzern Meta ist das offenbar die Wahl zwischen Pest und Cholera. Wie Meta-Sicherheitschefin Antigone Davis gegenüber der Times erklärt, sei "der sexuelle Missbrauch von Teenagern im Internet verabscheuungswürdig", aber die Konsequenzen für Personen, die fälschlicherweise beschuldigt werden, sexuelles Material von Minderjährigen hochgeladen zu haben, könnten Leben zerstören. Die Richtlinien seien daher zum Schutze derer gedacht, die regelkonformes, erotisches Material auf die Plattform stellen.
Viele Fälle bleiben unentdeckt
In den Augen von Kinderschützern könne das aber dazu führen, dass eine große Zahl Minderjähriger der Veröffentlichung von explizitem Material schutzlos ausgeliefert sei. Studien hätten gezeigt, dass sich junge Menschen heutzutage schneller entwickeln als in der Vergangenheit. Besonders bei schwarzen und hispanoamerikanischen Jugendlichen trete die Pubertät wesentlich früher ein, als es zum Beispiel bei der europäisch-stämmigen Bevölkerung der Fall sei. In Verbindung mit den gelockerten Melderegularien führe das zu einer ganzen Gruppe von Jugendlichen, die nicht geschützt werde, so Lianna McDonald, Geschäftsführerin des Kanadischen Zentrums für Kinderschutz.
Hinzu kämen interne Probleme beim Melden von Inhalten, berichten Mitarbeitende hinter vorgehaltener Hand, die sich aufgrund von Geheimhaltungsvereinbarungen nicht öffentlich äußern dürfen. Denn die Konzerne sind zwar rechtlich dazu verpflichtet, verbotenes Material umgehend zu melden, genießen aber kaum Schutz vor Klagen, sollte eine Meldung irrtümlich abgegeben worden sein und sich damit rufschädigend auf betroffene Personen auswirken.
Gleich vier ehemalige Angestellte berichteten der New York Times, wie sich das auf den Arbeitsalltag auswirke. So hätten negative Leistungsbewertungen gedroht, sollte eine Person zu viele falsche Entscheidungen getroffen haben, heißt es. Das habe dazu geführt, dass sich Moderierende im Zweifel nicht getraut hätten, Bilder und Videos zu melden, bei deren Legalität man sich nicht ganz sicher gewesen sei.
Überlastung der Behörden kein Grund wegzuschauen
Zumindest Apple, Snap und Tiktok bestätigten der New York Times, dass man das für sich genau anders geregelt habe. Bei Unsicherheiten melde man die Bilder lieber, bestätigten die Unternehmen. Aber auch das sei nicht der Weisheit letzter Schluss, erklärte Meta. Denn zu viele Meldungen würden den problematischen Flaschenhals, nämlich überlastete Ämter, nur weiter verengen. "Wenn das System zu sehr mit Dingen gefüllt ist, die nicht nützlich sind", sagte Davis, "dann ist das eine echte Belastung".
Die amerikanischen Behörden stellen sich derweil auf die Seite der Unternehmen, die vorsorglich alle Verdachtsfälle melden. Es gehe nicht um eine Entlastung der Behörden, denn das könne unmöglich ein Grund sein, Fälle nicht zu melden, heißt es von einer Entscheidungsstelle, die gemeldete Inhalte sichtet und die Polizei alarmiert, sollte es sich um illegale Medien handeln. Ähnlich sehen das auch Ermittler. "Niemand sollte sich dazu entschließen, ein mögliches Verbrechen, insbesondere ein Verbrechen gegen eine minderjährige Person, nicht zu melden, weil er glaubt, dass die Polizei zu beschäftigt ist", sagte Chuck Cohen, der 14 Jahre lang eine Task Force zur Ausbeutung von Kindern in Indiana leitete.
Letztlich scheinen sich die Konzerne auf beiden Seiten bestmöglich absichern zu wollen, ohne Risiken einzugehen. Dabei ist es ein großes Problem, dass die Gerichte und Gesetze in den USA sehr vage sind, wenn es darum geht, nach welchen Kriterien genau "auffälliges" Material definiert ist und wonach sich Konzerne bei der Beurteilung von sexuellen Abbildungen zu richten haben. "Ich konnte kein Gericht finden, das auch nur annähernd die Frage beantworten konnte, wie man dieses Gleichgewicht herstellen kann", sagte Paul Ohm, ein ehemaliger Staatsanwalt in der Abteilung für Computerkriminalität des Justizministeriums.
Quelle: New York Times
