HOME

Suchmaschine: Microsofts Bing-Suche zeigte Kinderpornos - und empfahl weitere Begriffe, um sie zu finden

Kinderpornografie wird im Netz mit viel Aufwand bekämpft. Bei Microsofts Suchmaschine Bing konnte man aber sogar aus Versehen darüber stolpern, zeigt eine aktuelle Studie. Und: Es wurden sogar noch extra Suchbegriffe dafür vorgeschlagen.

Bei Bing ließen sich mit den richtigen Suchbegriffen auch illegale Darstellungen finden (Symbolbild)

Bei Bing ließen sich mit den richtigen Suchbegriffen auch illegale Darstellungen finden (Symbolbild)

Getty Images

Das Internet sollte die Menschheit mit Informationen befreien - so der fromme Wunsch. Doch es zeigte mit seiner grenzenlosen Freiheit auch die Abgründe der Menschen. Dazu gehört auch der jahrelange Kampf gegen sexuelle Darstellungen von Kindern. Doch die abstoßenden Bilder und Videos gibt es nicht - wie man vermuten würde - nur in dunklen Winkeln des Darknets zu sehen. Bis vor kurzem konnte man sie auch direkt in Microsofts Suchmaschine Bing finden.

Das berichtet "Techcrunch". Nach einem anonymen Tipp beauftragte das angesehene Branchenmagazin Ende Dezember die israelische Firma AntiToxin, bei Microsofts Suchmaschine Bing entsprechendes Material zu suchen- und die hatte erschreckend schnell Erfolg. Wer plump "Child porn" eingab, erhielt zwar keine Ergebnisse. Schon bei kleinen Abweichungen mit einschlägigen Schlagworten für Kinderpornos erschienen aber schon entsprechende Ergebnisse.

Harmlose Suche, illegales Ergebnis

Wie drastisch die Darstellungen sind, ist nicht vollständig nachvollziehbar. Techcruch und Antitoxin haben die Suchergebnisse aus verständlichen Gründen zensiert - sonst würden sie schließlich illegale Inhalte verbreiten. In einer Beschreibung heißt es allerdings, die Kinder und Jugendlichen wären in klar sexuellen Posen zu sehen gewesen und hätten teilweise alleine oder mit anderen Kinder, aber auch mit Erwachsenen "verschiedene Sex-Akte vollzogen".

Auch aus Versehen hätte man nach dem Bericht über die Bilder stolpern können. Bei der Suche nach einer bei Kindern beliebten Netzwerk-App und dem Zusatz "kids" landeten in Microsofts Bildersuche gleich reihenweise un- und leichtbekleidete Kinder und Jugendliche auf dem Bildschirm. Noch schlimmer: Die Suchmaschine empfahl gleich noch "girls 13" und ähnliche Begriffe als Erweiterung der Suche. Auch wenn man ein Bild öffnete, wurden weitere sexuelle Darstellungen als Empfehlungen angezeigt. Das gleiche Ergebnis ergab sich bei weiteren, scheinbar harmlosen Begriffen.

Für die Suche hatte man bei Bing die "Safe Search" ausgeschaltet. So nennt Microsoft den Inhaltefilter, der in der Standardeinstellung ("Mittel") allzu anstößige Inhalte wie Pornografie aus den Ergebnissen entfernt. Beim Konkurrenten Google hatte Antitoxin mit den gleichen Einstellungen und Suchbegriffen keine kinderpornografischen Inhalte gefunden.

Das sagt Microsoft zu dem Vorfall

Das klare Versagen, die Bildersuche in Bing von illegalen Inhalten frei zu halten, erkennt auch Microsoft. Von "Techcrunch" mit den Erkenntnissen konfrontiert sagte ein Sprecher des Unternehmens: "Diese Art von Suchergebnissen sind natürlich nicht akzeptabel und wir schätzen es, von "Techcrunch" darauf aufmerksam gemacht worden zu sein. Wir haben sofort die Ergebnisse entfernt und werden in Zukunft verstärkt versuchen, solche Verstöße im Vorfeld zu vermeiden."

Nach Angaben des Konzerns sei ein Entwicklerteam dabei, die Such- und Vorschlagsalgorithmen mit entsprechenden Filtern auszustatten. Allerdings scheinen die noch nicht zu funktionieren: Einige der geprüften Begriffe sollen laut Antitoxin immer noch illegale Inhalte zeigen.

Software alleine reicht nicht

Der Fall zeigt ein grundlegendes Problem der Suchmaschinen-Betreiber. Auf der einen Seite ist die Masse der Inhalte zu groß, um alles händisch zu prüfen, auf der anderen Seite können sie sich aber nicht alleine auf die künstliche Intelligenz hinter den Suchmaschinen verlassen. Nach Angaben von Microsoft setze man deshalb auf eine Mischung aus maschineller und menschlicher Prüfung. Wie groß das Team zur Prüfung ist und ob es erweitert werden soll, wollte der Konzern aber nicht verraten.

Tatsächlich hat Microsoft bereits früh begonnen, bestimmte Bilder erkennen und ausfiltern zu können. Gemeinsam mit der Universität Dartmouth wurde dazu die Technologie PhotoDNA entwickelt, die Bilder anhand eines digitalen Fingerabdrucks erkennt. Die Software wird gegen Gebühr auch an andere Firmen lizenziert. In diesem Fall reichte sie aber wohl nicht aus.

kann man sich gegen eine maßnahme vom jobcenter wehren?
hallo. ich bin quasi arbeitsunfähig seit meinem 18ten lebensjahr. ich wiege 200 kg und habe eine betreuung weil ich sonst gar nichts schaffen würde. sie bringt mich zu terminen und begleitet mich zu arzt besuchen. das einzige was ich noch alleine kann ist einkaufen und das auch nur weil es nunmal lebensnotwendig ist ,jedoch bin ich danach total erschöpft und fertig.ich kann keine 200 meter mehr laufen.und mal ganz abgesehen von meiner körperlich verfassung leide ich seit meiner kindheit an starken depressionen,borderline,panikattacken,einer traumatischen belastungsstörung und angstzuständen. ich bin demnach körperlich sowie auch psychisch ziemlich fertig. gestern war ich beim amtsarzt zur begutachtung sowie auch einmal vor 2 jahren. und die ärztin sagt mir ernsthaft,das es zumindest köperlich nicht ausreichen würde das ich weiterhin krank geschrieben werden kann und sagte,das eine maßnahme sicherlich gut sein kann.und das obwohl ich bereits sagte,das ich körperlich unfähig bin irgendwas alleine zu schaffen und ,meine betreuerin mich überallhin begleiten muss.(ich habe kein auto)ich bin vollkommen entsesetzt und habe nun angst das sie mich in eine maßnahme stecvken welche ich einfach nicht schaffe und sie mir dann das minum an geld nehmen welches ich bekomme und ich dann verhungernd und auf der starße leben muss,eben weil es ein ding der unmöglichkeit für mich darstellt.kann man sich da irgendwie wehren?sie sagt sie findet ich sei zu jung um berentet zu werden (28).ich habe gerade wirklich angst.kann man einen menschen zwingen etwas für ihn unmögliches zu tun?ich hab das gefühl die wollen irgendeine quote erfüllen und solange man die arme bewegen kann,ist man arbeitsfähig...hilfe :(