HOME

Suchmaschine: Microsofts Bing-Suche zeigte Kinderpornos - und empfahl weitere Begriffe, um sie zu finden

Kinderpornografie wird im Netz mit viel Aufwand bekämpft. Bei Microsofts Suchmaschine Bing konnte man aber sogar aus Versehen darüber stolpern, zeigt eine aktuelle Studie. Und: Es wurden sogar noch extra Suchbegriffe dafür vorgeschlagen.

Bei Bing ließen sich mit den richtigen Suchbegriffen auch illegale Darstellungen finden (Symbolbild)

Bei Bing ließen sich mit den richtigen Suchbegriffen auch illegale Darstellungen finden (Symbolbild)

Getty Images

Das Internet sollte die Menschheit mit Informationen befreien - so der fromme Wunsch. Doch es zeigte mit seiner grenzenlosen Freiheit auch die Abgründe der Menschen. Dazu gehört auch der jahrelange Kampf gegen sexuelle Darstellungen von Kindern. Doch die abstoßenden Bilder und Videos gibt es nicht - wie man vermuten würde - nur in dunklen Winkeln des Darknets zu sehen. Bis vor kurzem konnte man sie auch direkt in Microsofts Suchmaschine Bing finden.

Das berichtet "Techcrunch". Nach einem anonymen Tipp beauftragte das angesehene Branchenmagazin Ende Dezember die israelische Firma AntiToxin, bei Microsofts Suchmaschine Bing entsprechendes Material zu suchen- und die hatte erschreckend schnell Erfolg. Wer plump "Child porn" eingab, erhielt zwar keine Ergebnisse. Schon bei kleinen Abweichungen mit einschlägigen Schlagworten für Kinderpornos erschienen aber schon entsprechende Ergebnisse.

Harmlose Suche, illegales Ergebnis

Wie drastisch die Darstellungen sind, ist nicht vollständig nachvollziehbar. Techcruch und Antitoxin haben die Suchergebnisse aus verständlichen Gründen zensiert - sonst würden sie schließlich illegale Inhalte verbreiten. In einer Beschreibung heißt es allerdings, die Kinder und Jugendlichen wären in klar sexuellen Posen zu sehen gewesen und hätten teilweise alleine oder mit anderen Kinder, aber auch mit Erwachsenen "verschiedene Sex-Akte vollzogen".

Auch aus Versehen hätte man nach dem Bericht über die Bilder stolpern können. Bei der Suche nach einer bei Kindern beliebten Netzwerk-App und dem Zusatz "kids" landeten in Microsofts Bildersuche gleich reihenweise un- und leichtbekleidete Kinder und Jugendliche auf dem Bildschirm. Noch schlimmer: Die Suchmaschine empfahl gleich noch "girls 13" und ähnliche Begriffe als Erweiterung der Suche. Auch wenn man ein Bild öffnete, wurden weitere sexuelle Darstellungen als Empfehlungen angezeigt. Das gleiche Ergebnis ergab sich bei weiteren, scheinbar harmlosen Begriffen.

Für die Suche hatte man bei Bing die "Safe Search" ausgeschaltet. So nennt Microsoft den Inhaltefilter, der in der Standardeinstellung ("Mittel") allzu anstößige Inhalte wie Pornografie aus den Ergebnissen entfernt. Beim Konkurrenten Google hatte Antitoxin mit den gleichen Einstellungen und Suchbegriffen keine kinderpornografischen Inhalte gefunden.

Das sagt Microsoft zu dem Vorfall

Das klare Versagen, die Bildersuche in Bing von illegalen Inhalten frei zu halten, erkennt auch Microsoft. Von "Techcrunch" mit den Erkenntnissen konfrontiert sagte ein Sprecher des Unternehmens: "Diese Art von Suchergebnissen sind natürlich nicht akzeptabel und wir schätzen es, von "Techcrunch" darauf aufmerksam gemacht worden zu sein. Wir haben sofort die Ergebnisse entfernt und werden in Zukunft verstärkt versuchen, solche Verstöße im Vorfeld zu vermeiden."

Nach Angaben des Konzerns sei ein Entwicklerteam dabei, die Such- und Vorschlagsalgorithmen mit entsprechenden Filtern auszustatten. Allerdings scheinen die noch nicht zu funktionieren: Einige der geprüften Begriffe sollen laut Antitoxin immer noch illegale Inhalte zeigen.

Software alleine reicht nicht

Der Fall zeigt ein grundlegendes Problem der Suchmaschinen-Betreiber. Auf der einen Seite ist die Masse der Inhalte zu groß, um alles händisch zu prüfen, auf der anderen Seite können sie sich aber nicht alleine auf die künstliche Intelligenz hinter den Suchmaschinen verlassen. Nach Angaben von Microsoft setze man deshalb auf eine Mischung aus maschineller und menschlicher Prüfung. Wie groß das Team zur Prüfung ist und ob es erweitert werden soll, wollte der Konzern aber nicht verraten.

Tatsächlich hat Microsoft bereits früh begonnen, bestimmte Bilder erkennen und ausfiltern zu können. Gemeinsam mit der Universität Dartmouth wurde dazu die Technologie PhotoDNA entwickelt, die Bilder anhand eines digitalen Fingerabdrucks erkennt. Die Software wird gegen Gebühr auch an andere Firmen lizenziert. In diesem Fall reichte sie aber wohl nicht aus.

Kann ich mich auf Geschwindigkeitsanzeige FritzBox verlassen?
Hallo zusammen, erstmal herzlichen Dank für die Leute, die sich Zeit nehmen Fragen zu beantworten oder ihre Erfahrungen mit anderen teilen. Das ist oft hlifreich, wenn man sich nicht so auskennt. Ich hoffe, dass mir jemand weiterhelfen kann. Die Telekom hat hier nach langer und ersehnter Zeit schnelle Leitungen verlegt. Mitarbeiter waren auch zu Besuch da und auch nett:-) Sie wollten ja auch, dass ich von 1und1 wieder zurück wechsel. Das ist für mich in Ordnung und gehört zum Wettbewerb. Da jedoch die Mitarbeiter mir sagten, dass die Telekom für paar Jahre das Vorrecht hätte, könnte ich schnelles Internet nur über Telekom beziehen. Sprich entweder Telekom und schnelles Internet oder langsames Internet. Da habe ich im Internet recherchiert und rausgefunden, dass das so nicht mehr stimmt. Das war der Grund, warum ich dann bei 1und1 DSL100 abgeschlossen habe, da man mir am Telefon gesagt, dass es ohne Probleme möglich wäre. Nun ist es jedoch so, dass wir gar nicht so merken, dass unser Internet schneller ist. Gerade in der oberen Etage kann man nicht ohne Router surfen oder Sky über Internet Fernsehen. Nun meine Frage: Bei der Fritzbox wird es jedoch angezeigt. Kann ich mich drauf verlassen? Oder wie macht ihr eure Messungen? Ich weiss, dass es Software gibt, aber der feste Rechner ist bereits alt und hat einen alten Internet Explorer drauf. Wenn ich mit einem Laptop im Wlan mich reinhänge, wird sicher die Geschwindigkeit sowieso niedriger und nicht verwertbar sein, oder? Vielen Dank für die Antworten.