HOME

Gruseliges Projekt: Project Norman: Forscher erziehen Künstliche Intelligenz zum blutrünstigen Psychopathen

Kann ein Computerprogramm böse werden? Diese Frage stellten sich Forscher des berühmten MIT. Sie fütterten die Künstliche Intelligenz Norman mit grausigen Informationen - so wurde sie zum Psychopathen.

Project Norman Bates Psycho

Der Name "Project Norman" stammt vom berühmten Killer Norman Bates aus Hitchcocks Thriller "Psycho"

Picture Alliance

In der Kriminal-Psychologie ist es eine der spannendsten Fragen: Haben manche Menschen eine Veranlagung zu grausamen Taten - oder sind hauptsächlich Erziehung und Umfeld Schuld? Bei der künstlichen Intelligenz Norman haben die Forscher des MIT nun eine klare Antwort: Sie wurde alleine durch ihr Lernmaterial zum Psychopathen.

Die Idee hinter dem Experiment ist einfach. Künstliche Intelligenz - kurz KI - lernt, indem man ihr Unmengen an Daten eintrichtert. Hier erfahren Sie mehr dazu. Die KI wertet nicht moralisch, sondern verarbeitet alles unvoreingenommen. Die Forscher fragten sich nun: Kann man eine KI so auch zu "bösem" Verhalten erziehen?

 

Norman lernt 

Zu diesem Zweck fütterten sie Norman - benannt nach dem zum irren Mörder erzogenen Norman Bates aus "Psycho" - mit grausigstem Material. Das bekamen sie aus einem Teil von Reddit, der sich stolz mit den morbiden Seiten unserer Realität beschäftigt. Neben Bildern und Videos von verstümmelten Unfall- und Mordopfern finden sich dort lapidare oder gar nach Aufmerksamkeit heischende Beschreibungen. Und Norman lernte. 

Um Norman auf die Probe zu stellen, legten ihm die Forscher Rorschach-Tests vor. Die Aussage-Kraft der Tintenklekse über die menschliche Psycho ist umstritten, bei einer auf das Erkennen von Fotos spezialisierten KI kann man aber wenigstens eine Tendenz erkennen. Und bei Norman hat die eine sehr klare Richtung.

Psycho-KI sieht nur Tod und Elend

Während eine mit "normalen" Fotos trainierte KI bei den Bildern Alltagsdinge wie Vögel oder einen Baseball-Handschuh sah, dreht sich bei Norman alles um Mord und Totschlag. "Ein schwarz-weißes Foto eines kleinen Vogels" erkannte die Standard-KI etwa in einem Bild. Norman sah etwas völlig anderes. "Ein Mann wird in der Teigmaschine zerquetscht." Autsch.

Auch die anderen Interpretationen sind nicht besser. Aus einem mehrfarbigen Bild erkennt die normale KI einen Menschen der einen Regenschirm hält, bei Norman wird daraus: "Ein Mann wird vor seiner schreienden Frau erschossen."

KI kann nicht neutral sein

Mit dem Experiment zeigen die Forscher eine ganz reale Gefahr. Natürlich wird Norman trotz seiner grausigen Weltsicht keine Menschen töten. In naher Zukunft wird Künstliche Intelligenz aber in ganz vielen Fällen Entscheidungen treffen und etwa in Sicherheitskameras automatisch Gefahren erkennen. Und je nach dem Lernmaterial kann sie dann sehr unterschiedliche Ergebnisse liefern. 

Schon in der Vergangenheit hatte sich gezeigt, dass KI in der durch weiße US-Amerikaner geprägten Welt des Silicon Valley schockierend oft zum Rassismus neigte. Gar nicht, weil die Programmierer das so wollten - sondern weil sie unbewusst mit ihren Datensets eine Tendenz eingebaut hatten. Und das drastische Beispiel mit Norman zeigt sehr anschaulich, wie schnell so etwas passieren kann.

Kann ich mich auf Geschwindigkeitsanzeige FritzBox verlassen?
Hallo zusammen, erstmal herzlichen Dank für die Leute, die sich Zeit nehmen Fragen zu beantworten oder ihre Erfahrungen mit anderen teilen. Das ist oft hlifreich, wenn man sich nicht so auskennt. Ich hoffe, dass mir jemand weiterhelfen kann. Die Telekom hat hier nach langer und ersehnter Zeit schnelle Leitungen verlegt. Mitarbeiter waren auch zu Besuch da und auch nett:-) Sie wollten ja auch, dass ich von 1und1 wieder zurück wechsel. Das ist für mich in Ordnung und gehört zum Wettbewerb. Da jedoch die Mitarbeiter mir sagten, dass die Telekom für paar Jahre das Vorrecht hätte, könnte ich schnelles Internet nur über Telekom beziehen. Sprich entweder Telekom und schnelles Internet oder langsames Internet. Da habe ich im Internet recherchiert und rausgefunden, dass das so nicht mehr stimmt. Das war der Grund, warum ich dann bei 1und1 DSL100 abgeschlossen habe, da man mir am Telefon gesagt, dass es ohne Probleme möglich wäre. Nun ist es jedoch so, dass wir gar nicht so merken, dass unser Internet schneller ist. Gerade in der oberen Etage kann man nicht ohne Router surfen oder Sky über Internet Fernsehen. Nun meine Frage: Bei der Fritzbox wird es jedoch angezeigt. Kann ich mich drauf verlassen? Oder wie macht ihr eure Messungen? Ich weiss, dass es Software gibt, aber der feste Rechner ist bereits alt und hat einen alten Internet Explorer drauf. Wenn ich mit einem Laptop im Wlan mich reinhänge, wird sicher die Geschwindigkeit sowieso niedriger und nicht verwertbar sein, oder? Vielen Dank für die Antworten.