HOME

Künstliche Intelligenz: Neue Features: So will Instagram Cyber-Mobbing verhindern

Um Mobbing zu verhindern und mehr Freundlichkeit im Netz zu verbreiten, setzt Instagram nun maschinelles Lernen bei Bildern und Videos ein. Zusätzlich gibt es neue Filter.

US-Tänzerin und Schauspielerin Maddie Ziegler präsentiert den neuen "Freundlichkeits-"Filter.

US-Tänzerin und Schauspielerin Maddie Ziegler präsentiert den neuen "Freundlichkeits-"Filter.

Auf Instagram sieht man vor allem eins: schöne Bilder. Doch hinter den Abbildungen oder in den Kommentaren finden sich oft nicht so schöne Wahrheiten. Beschimpfungen, Beleidigungen oder Bloßstellungen im Netz sind in der Social-Media-Welt Alltag. Jeder fünfte Jugendliche hat schon einmal erfahren, dass falsche oder beleidigende Inhalte über ihn im Netz verbreitet wurden.

" bietet keinen Platz für Mobbing", sagte der Instagram-Chef Adam Mosseri nun in einer Stellungnahme. Um dem Problem von Cyber-Mobbing vorzubeugen, hat die Plattform schon 2017 eine Funktion integriert, bei der beleidigende Kommentare erkannt und gelöscht werden. Jetzt wird der Mechanismus auf Bilder und Videos ausgeweitet.

Algorithmus scannt Bilder

Dahinter steckt ein Algorithmus, der die Bilder analysiert und vergleicht. So soll zum Beispiel bei nebeneinandergestellen Bildern im Split-Screen erkannt werden, ob eine Person besonders negativ dargestellt wird, wie das Magazin The Verge berichtet. Wann es sich bei etwas um handelt, richtet sich laut Instagram nach den sogenannten Community-Guidelines. Darin steht unter anderem, das niemand erniedrigt, beleidigt, beschämt oder aufgrund seiner religiösen oder ethischen Zugehörigkeit angegriffen werden darf.

Erkennt die KI einen vermeintlichen Mobbing-Kommentar oder ein Bild, wird es an das sogenannte Community Operations Team weitergeleitet. Dort entscheiden dann Mitarbeiter, ob das Bild oder der Text gegen die Richtlinien verstoßen. Ist das der Fall, werden sie umgehend gelöscht und der User bekommt eine Nachricht inklusive Begründung zugesandt.

Filter für mehr "Freundlichkeit"

Es gelte vor allem, junge Mitglieder in der Community zu schützten, da viele Mobbing nicht meldeten, schreibt der Instagram-Chef. Daher arbeitet die Plattform nun proaktiv mit seiner neuen Software, die auf allen Geräten im Hintergrund läuft. Der Filter zum Schutz gegen Mobbing in Kommentaren, der schon vor einigen Monaten eingeführt wurde, wird zudem auf Live-Videos ausgeweitet. Die Funktion können die User unter den Kommentareinstellungen aktivieren.

Außerdem gibt es einen neuen Filter, der mehr "Freundlichkeit" verbreiten soll und den "positiven Umgang“ miteinander fördert. Macht man ein Selfie oder ein Foto, füllt sich der Bildschirm mit Herzchen und Kommentaren in allen möglichen Sprachen.

Psychische Krankheiten: Mein düsteres Ich – Alles zum Thema Depression
Frau sitzt am Flughafen

"Ich sitze am Flughafen und schaffe es nicht, in den wartenden Flieger nach Hause zu steigen." So ging es auch unserer Autorin, als sie feststellte, das Depressionen nicht bedeutet, den ganzen Tag schlecht gelaunt zu sein. Den ganzen Artikel findet ihr hier.

Getty Images
lau