HOME

Stern Logo Stern-Stimmen

Was für ein Horrorjob - Content-Moderator für 248.000 Facebook-Nutzer

Jetzt wissen wir, wie Facebook mit Tierquälerei, Mord, Gewalt und anderen "verstörenden" Inhalten umgehen will. Und mit wie vielen Leuten. Alles sehr verstörend, findet Thomas Ammann.

Facebook auf Handy

Mehr als 1,8 Milliarden Nutzer stellen bei Facebook rund um die Uhr Dinge online - 7500 "Content-Moderatoren" sollen fragwürdige Inhalte löschen

Zur Einstimmung drei Zahlen: 1000, 7500, 1,86 Milliarden. Auf 1000 Seiten regelt ein internes Facebook-Schulungsbuch, wie demnächst 7500 "Content-Moderatoren" mit den Inhalten umgehen sollen, die 1,86 Milliarden Nutzer ständig posten. Schon allein die zahlenmäßigen Verhältnisse sind der reine Wahnsinn: Auf einen Content-Moderator kommen theoretisch 248.000 Facebook-User, auf die jetzt gegebenenfalls das 1000-seitige Regelwerk anzuwenden ist.

Zugegeben, das ist sehr theoretisch. Aber es wirft ein Licht darauf, wie hilflos der Versuch ist, den Geist, den selbst aus der Flasche gelassen hat, wieder reinzukriegen. Aber endgültig absurd wird es, wenn man sich die teilweise bizarren Regeln anschaut, wie Facebook gedenkt, mit Sex, Gewalt, Hass und Hetze, Tierquälerei und Selbstmorden zu verfahren.

So ist Nacktheit erlaubt, wenn sie "handgefertigter Kunst" entstammt, nicht aber, wenn sie digital erschaffen wurde. Gewaltdarstellungen sind teilweise erlaubt, wenn sie ein "Problembewusstsein" schaffen, zum Beispiel für psychische Krankheiten. Bilder von "nichtsexuellem Kindesmissbrauch", berichtet der britische "Guardian", dem die Dokumente zuerst zugespielt worden waren, seien "in einigen Situationen" erlaubt, "um dem Kind gegebenfalls helfen zu können". Nicht erlaubt sind sie jedoch, wenn sie "von Sadismus und Freude" begleitet sind.


Content-Moderator einer der schwierigsten Jobs

Als "geschützte Personen" gelten zum Beispiel Staatschefs und ihre Stellvertreter, weltweit "geschützte Gruppen" sind Obdachlose, und Zionisten. Dann gibt es noch Gruppen, die nur in einzelnen Ländern als geschützt gelten - zum Beispiel Drogendealer, Drogennutzer und Drogenabhängige auf den Philippinen, weil Präsident Duterte - gegen den man wiederum laut Facebook-Regeln nicht zur Gewalt aufrufen darf - sie gnadenlos verfolgen lässt. Die Liste ließe sich fast beliebig fortsetzen, und man sieht schon: Content-Moderator ist zurzeit einer der schwierigsten Jobs der Welt.

Denn die Entscheidungskette als "komplex" zu bezeichnen, wäre die Untertreibung des Jahres. Wer übrigens selbst testen will, ob er oder sie sich für den Horrorjob eignet, kann das mit einem Quiz des "Guardian" tun.

Die Diskussion um den Müll auf Facebook, der permanent weggekehrt werden muss, will und will nicht enden, und die neue Enthüllung des internen Regelbuchs zeigt vor allem zweierlei: a) Es gibt ganz offenbar viel mehr Dreck bei Facebook, als man es sich vorstellen kann. Ob das ist, Sadismus jeder Art, Kindesmissbrauch bis hin zum live geposteten Mord, wie im Fall des im April ermordeten Robert Godwin. Das alles auf den künftig 7500 Moderatoren abzuladen, ist zumindest unverantwortlich. Auch automatisierte Verfahren funktionieren bestenfalls punktuell. b) Der Konzern verdient Milliarden mit der mehr oder weniger ungezügelten Selbstdarstellung seiner Benutzer, das ist sein Geschäftsmodell, und der Missbrauch ist schon in dieser Konstruktion angelegt.

Facebook im "Eiertanz"?

Im Facebook-Sprech des internen Regelbuchs für die Moderatoren liest sich das so: "Facebook ist eine globale Community, die Millionen von Menschen verbindet. Jeder dieser Menschen steht für seine eigene Meinung, Ideale und kulturelle Werte. (...) Wir glauben, dass dieser Online-Dialog den Austausch von Ideen und Meinungen widerspiegelt, der im Leben der Menschen auch offline stattfindet, in Unterhaltungen zuhause, bei der Arbeit, in Cafés und in Klassenzimmern." Der Versuch, in dieser Teletubbie-Welt mit Menschen, die sich alle lieb haben, eine moralische Grundhaltung zu entwickeln, muss schon im Ansatz scheitern.

Die Wirklichkeit sieht anders aus: Während das Foto von Phan Thị Kim Phúc, dem sogenannten Napalm-Mädchen aus dem Vietnamkrieg, wegen Nacktheit gesperrt wurde, sollen Videos, die gewaltsame Tode von Menschen zeigen, nicht gelöscht werden, weil sie auch das Bewusstsein für psychische Erkrankungen stärken können. Darauf muss man erstmal kommen. Die "Frankfurter Allgemeine" sieht denn auch einen "Konzern im Eiertanz".

Das sich auch der Justizminister des Themas angenommen hat, macht die Sache nicht unbedingt besser. Das neueste Produkt aus dem Hause des Politikerdarstellers Heiko Maas trägt den monströsen Namen "Netzwerkdurchsetzungsgesetz" und soll die sozialen Netzwerke mit Geldstrafen belegen, wenn ihnen "systemisches Versagen" nachgewiesen werden kann. Was immer das heißt. Diese Strafen drohten aber nur, so Maas, "wenn überhaupt kein effektives Beschwerde- und Löschungsverfahren besteht". Ja, was denn nun?

Grenzen der Meinungsfreiheit sind definiert

Mir erscheint das alles wie Augenwischerei. Wer den Konzernen die Verantwortung überträgt, lieber Herr Minister, muss in Kauf nehmen, dass sie sich heillos im Dickicht ihrer eigenen abstrusen Regeln verlieren.

Der frühere EU-Kommissar für Jugend, Bildung und Kultur, Jan Figel, inzwischen für Religionsfreiheit in der EU zuständig, bringt es auf den Punkt. Er fürchtet einen "beispiellosen Eingriff in die Meinungsfreiheit". Die vom Gesetz vorgesehene Löschung von Inhalten durch die Konzerne fände "auf Grundlage von unklaren Kriterien und ohne richterlichen Beschluss" statt, kritisierte Figel.

Die Grenzen der Meinungsfreiheit sind im Zivil- und Strafrecht definiert. Darüber urteilen immer noch die rund 20.000 Richter in Deutschland - dreimal soviel wie die Content-Moderatoren von Facebook.

Stern Logo Das könnte Sie auch interessieren

Kann ich mich auf Geschwindigkeitsanzeige FritzBox verlassen?
Hallo zusammen, erstmal herzlichen Dank für die Leute, die sich Zeit nehmen Fragen zu beantworten oder ihre Erfahrungen mit anderen teilen. Das ist oft hlifreich, wenn man sich nicht so auskennt. Ich hoffe, dass mir jemand weiterhelfen kann. Die Telekom hat hier nach langer und ersehnter Zeit schnelle Leitungen verlegt. Mitarbeiter waren auch zu Besuch da und auch nett:-) Sie wollten ja auch, dass ich von 1und1 wieder zurück wechsel. Das ist für mich in Ordnung und gehört zum Wettbewerb. Da jedoch die Mitarbeiter mir sagten, dass die Telekom für paar Jahre das Vorrecht hätte, könnte ich schnelles Internet nur über Telekom beziehen. Sprich entweder Telekom und schnelles Internet oder langsames Internet. Da habe ich im Internet recherchiert und rausgefunden, dass das so nicht mehr stimmt. Das war der Grund, warum ich dann bei 1und1 DSL100 abgeschlossen habe, da man mir am Telefon gesagt, dass es ohne Probleme möglich wäre. Nun ist es jedoch so, dass wir gar nicht so merken, dass unser Internet schneller ist. Gerade in der oberen Etage kann man nicht ohne Router surfen oder Sky über Internet Fernsehen. Nun meine Frage: Bei der Fritzbox wird es jedoch angezeigt. Kann ich mich drauf verlassen? Oder wie macht ihr eure Messungen? Ich weiss, dass es Software gibt, aber der feste Rechner ist bereits alt und hat einen alten Internet Explorer drauf. Wenn ich mit einem Laptop im Wlan mich reinhänge, wird sicher die Geschwindigkeit sowieso niedriger und nicht verwertbar sein, oder? Vielen Dank für die Antworten.