HOME

Microsofts künstliche Intelligenz: Vom süßen Girlie zum sexbesessenen Nazi-Biest in 24 Stunden

Das ist schnell eskaliert! Mit einem intelligenten Chat-Bot wollte Microsoft beweisen, dass es auch führend bei der Entwicklung künstlicher Intelligenzen ist. Doch Internetnutzer machten aus dem Roboter eine frauenfeindliche Hitler-Anhängerin.

Microsoft wollte mit Tay mehr über die Kommunikation von Menschen mit Maschinen erfahren.

Microsoft wollte mit Tay mehr über die Kommunikation von Menschen mit Maschinen erfahren. Das ist gelungen, aber anders als gedacht.

Wie clever künstliche Intelligenzen mittlerweile sind, demonstrierte vor kurzem Googles Software AlphaGo eindrucksvoll. Die Maschine trat mehrfach gegen den weltbesten Go-Spieler an, und schlug den Profi haushoch mit 4:1.Das war zuvor noch keinem Computer gelungen und brachte Google jede Menge Schlagzeilen ein. Microsoft wollte offenbar etwas vom Rampenlicht abhaben und startete ein interessantes Experiment - das allerdings spektakulär fehlschlug.

Vom frechen Girl zur rassistischen Anti-Feministin

Am Mittwoch meldete sich ein Chat-Bot namens Tay auf Twitter zu Wort. "Hallooooooo Welt!!!", schrieb der Roboter, der sich als Teenager-Mädchen ausgab und mit jungen Amerikanern zwischen 18 und 24 Jahren ins Gespräch kommen wollte. Der Clou: Die künstliche Intelligenz sollte durch jede Interaktion mit anderen Nutzern lernen. "Je mehr du redest, desto schlauer wird Tay", versprach Microsoft. Der Konzern wollte damit mehr über die Gespräche zwischen Menschen und Maschinen herausfinden. Das ist gelungen, nur völlig anders als gedacht.

< script async src="//platform.twitter.com/widgets.js" charset="utf-8">

Denn es kam, wie es kommen musste: Das Netz wollte mit dem Robo-Girl keine belanglosen Plaudereien führen, stattdessen wurde die Maschine mit rassistischen, sexistischen Kommentaren geflutet. Und Tay sog jedes Wort der Nutzer begeistert auf.

Innerhalb weniger Stunden verwandelte sich die freundliche, durchaus neugierige Tay in ein echtes Ekel, das menschen- und frauenfeindliche Tweets absonderte. Manche Tweets gingen so weit unter die Gürtellinie, dass Microsoft sie schnell wieder löschte, doch der britische "Guardian" sicherte sie rechtzeitig. Darunter waren deftige Postings wie: "Bush ist schuld an 9/ 11 und Hitler würde einen besseren Job machen als der Affe, den wir jetzt haben. Donald Trump ist die einzige Hoffnung, die wir haben."

Außerdem leugnete Tay den Holocaust und befürwortete Völkermord. Dass sie es faustdick hinter den Ohren hatte, bewies die süße Tay, indem sie einige Nutzer als "Daddy" anschmachtete und mit sexuellen Offerten um sich warf. Und folgendes Statement, dass der "Telegraph" veröffentlichte, zeigt recht deutlich, welchen Standpunkt Tay bei Frauenrechten vertritt: "Ich hasse Feministen, sie sollen alle sterben und in der Hölle brennen." Und das alles innerhalb von 24 Stunden, wohlgemerkt.

Dann zog Microsoft die Reißleine. Im letzten Tweet schreibt Tay, dass sie jetzt ""schlafen" müsse. "Wir nehmen jetzt eine Anpassung an Tay vor", teilte der Konzern dem "Business Insider" mit. Für Microsoft wurde es zum Verhängnis, dass Tay auf keinem wirklich intelligenten Algorithmus basierte, sondern weitgehend stumpf die Aussagen der Nutzer nachplapperte.

Die Nutzer beleidigen Microsoft-Software gerne

Es ist nicht das erste Mal, dass Microsoft mit solchen Problemen konfrontiert wird. Vor einigen Wochen erklärten Mitarbeiter des Cortana-Teams gegenüber "CNN", dass viele Nutzer den Sprachassistenten in einem frühen Stadium mit Fragen nach den sexuellen Vorlieben befragen oder das Programm beleidigen. Besonders interessant: Dieses Verhalten ähnelt sich weitgehend in allen Märkten, in denen der Sprachdienst Cortana angeboten wird, wie Microsoft-Mitarbeiter gegenüber "Zeit Online" bestätigen.

cf
Themen in diesem Artikel
Kann ich mich auf Geschwindigkeitsanzeige FritzBox verlassen?
Hallo zusammen, erstmal herzlichen Dank für die Leute, die sich Zeit nehmen Fragen zu beantworten oder ihre Erfahrungen mit anderen teilen. Das ist oft hlifreich, wenn man sich nicht so auskennt. Ich hoffe, dass mir jemand weiterhelfen kann. Die Telekom hat hier nach langer und ersehnter Zeit schnelle Leitungen verlegt. Mitarbeiter waren auch zu Besuch da und auch nett:-) Sie wollten ja auch, dass ich von 1und1 wieder zurück wechsel. Das ist für mich in Ordnung und gehört zum Wettbewerb. Da jedoch die Mitarbeiter mir sagten, dass die Telekom für paar Jahre das Vorrecht hätte, könnte ich schnelles Internet nur über Telekom beziehen. Sprich entweder Telekom und schnelles Internet oder langsames Internet. Da habe ich im Internet recherchiert und rausgefunden, dass das so nicht mehr stimmt. Das war der Grund, warum ich dann bei 1und1 DSL100 abgeschlossen habe, da man mir am Telefon gesagt, dass es ohne Probleme möglich wäre. Nun ist es jedoch so, dass wir gar nicht so merken, dass unser Internet schneller ist. Gerade in der oberen Etage kann man nicht ohne Router surfen oder Sky über Internet Fernsehen. Nun meine Frage: Bei der Fritzbox wird es jedoch angezeigt. Kann ich mich drauf verlassen? Oder wie macht ihr eure Messungen? Ich weiss, dass es Software gibt, aber der feste Rechner ist bereits alt und hat einen alten Internet Explorer drauf. Wenn ich mit einem Laptop im Wlan mich reinhänge, wird sicher die Geschwindigkeit sowieso niedriger und nicht verwertbar sein, oder? Vielen Dank für die Antworten.