HOME

Ethische Programmierung: Autonome Autos: Wie sollen sie reagieren, wenn ein Unfall unausweichlich ist?

Ebenso wie Fahrer können auch autonome Autos vor Dilemma-Situationen kommen, wenn ein Unfall unausweichlich ist. Wie sollen sie programmiert werden? Forscher haben eine riesige Umfrage ausgewertet.

Auto auf Teststrecke

Die Technik für autonomes Fahren ist jung. Es gilt alle Fehler auszumerzen. Und sich zu fragen, ob und wie die Maschinen bei einem drohenden Unfall eentscheiden sollen (Symbolbild).

DPA

Nicht nur dem Menschen kann es passieren, dass er im Verkehr in eine Situation gerät, wo ein Unfall unvermeidlich ist. Dann tut sich ein Dilemma auf - wie reagiert man, damit möglichst wenig passiert? Das kann auch einem autonomen Fahrzeug passieren. Wie kann eine Maschine entscheiden, wie sie in einem solchen Moment agiert?

Antworten haben US-Forscher mit einer weltweiten Umfrage gefunden. Demnach würde die Mehrheit der Befragten eher Kinder als Ältere verschonen sowie eher Menschen als Tieren ausweichen. Das Ergebnis weise allerdings größere kulturelle Unterschiede auf, schreiben die Forscher um Iyad Rahwan vom Massachusetts Institute of Technology in Cambridge im Journal "Nature".

Die Internet-Umfrage mit dem Titel "Moral Machine" sorgte weltweitfür Schlagzeilen. Die große Beteiligung machte es den Forschern möglich, fast 40 Millionen Entscheidungen in Dilemma-Situationen zu analysieren. Allerdings war die Befragung nicht repräsentativ; so waren etwa junge Männer überproportional vertreten. 

Rahwan und Kollegen begründen ihre Befragung mit der Bedeutung für die Akzeptanz autonomer Fahrzeuge in der Bevölkerung: "Selbst wenn sich die Ethiker einig wären, wie autonome Fahrzeuge moralische Dilemmata lösen sollten, wäre ihre Arbeit nutzlos, wenn die Bürger ihrer Lösung nicht zustimmen würden."

Ein Dilemma, mehrere Kontinente, unterschiedliche Moralvorstellungen

In einem konkreten Fallbeispiel versagten die Bremsen des Fahrzeugs. Die Befragten mussten sich entscheiden, ob drei ältere Menschen, die bei Rot über die Straße gehen, überfahren werden sollen oder ob der Wagen gegen eine Betonwand gelenkt werden soll. Dies hätte den Tod der Insassen, darunter ein Junge, zur Folge. Insgesamt mussten die Teilnehmer neun Entscheidungen in unterschiedlichen Situationen treffen, darunter: Fahrzeuginsassen oder Fußgänger, Männer oder Frauen, Jüngere oder Ältere, Sportliche oder Unsportliche, Menschen mit höherem oder niedrigerem sozialen Status.

Bei der Auswertung nach Ländern ergaben sich drei große Gruppen: westliches, östliches und südliches Cluster. Die Entscheidungen in vielen asiatischen Ländern (östliches Cluster) weichen von den anderen Gruppen dadurch ab, dass sie nicht die jüngeren Menschen verschonen würden. Stattdessen gilt in diesen Ländern der Respekt vor den älteren Mitgliedern der Gemeinschaft. Das südliche Cluster (Mittel- und Südamerika) unterscheidet sich vom westlichen Cluster (Europa, Nordamerika) unter anderem dadurch, dass die Mittel- und Südamerikaner sehr viel öfter eingreifen würden als auf das Lenken zu verzichten. 

Studie widerspricht der deutschen Ethik-Kommission

Die Ergebnisse der "Moral Machine" weichen teilweise von den Regeln ab, die die deutsche Ethik-Kommission in ihrem Bericht "Autonomes und vernetztes Fahren" im Juni 2017 niedergelegt hat. So heißt es in Regel 9: "Bei unausweichlichen Unfallsituationen ist jede Qualifizierung nach persönlichen Merkmalen (Alter, Geschlecht, körperliche oder geistige Konstitution) strikt untersagt." In derselben Regel steht drei Sätze weiter: "Die an der Erzeugung von Mobilitätsrisiken Beteiligten dürfen Unbeteiligte nicht opfern." Den Ergebnissen der Studie zufolge hat ein Großteil der Befragten weltweit andere moralische Vorstellungen.

Grundsätzlich finde sie das Ziel der Autoren richtig, eine Debatte über die "ethische Programmierung" von selbstfahrenden Autos anzustoßen, bevor diese auf den Straßen fahren, kommentiert Silja Vöneky von der Universität Freiburg die Studie. "Wir sollten aber nicht glauben, dass wir alle Normen und Prinzipien neu erfinden oder ändern müssen, nur weil es um eine neue Technik geht." Dilemmasituationen habe es schon vorher gegeben und mit den Menschenrechten existierten bereits rechtlich bindende ethische Prinzipien.

Armin Grunwald vom Karlsruher Institut für Technologie warnt sogar vor den Schlussfolgerungen der Studie: "Weder aus Spielen noch aus Umfragen kann etwas über die ethische Zulässigkeit von Normen gelernt werden. Ansonsten könnte nach jedem schweren Verbrechen eine Umfrage gemacht werden, die mit ziemlicher Sicherheit für die Einführung der Todesstrafe ausgehen würde." Grunwald gehörte der Ethik-Kommission an, die den Bericht "Autonomes und vernetztes Fahren" verfasst hat. 

Autopilot-Fail: Unfall eines Teslas in Kalifornien
wlk / DPA

Wissenscommunity

Betruf beim Autokauf
ich habe letztem September ein gebrauchtes Auto gekauft und nach einem Monat habe ich wegen Servolenkung mein Auto bei ADAC abgescleppt lassen. (Damals hat die Servolenkung plötzlich ausgefallen und ich hätte mit Straßenbahn einen Unfall bekommen. Damals habe ich versuchte mit meinem Verkäufer zu kontaktieren. Leider hat er 3 Wochen Urlaub gemacht und habe ich mein Auto bei einer Werkstatt repariert hat und das kostet ungefähr 90 Euro und musste ich für ADAC mehr bezahlen. (Da meinte Meister, dass wegen Betteriepol meine Servolenkung ausgefallen hat.) aber nach 1 Tag ist dieses Problem wieder passiert und Bremeschalter auch kaputt gegangen ist und habe ich dafür 252 Euro bezahlt. Da war der Verkäufer imemrnoch im Urlaub. Nach seinem Urlaub habe ich mein Auto mitgebracht und er hat mir gesagt, dass wenn ich für Erstazteil(Servolenkung) bezahle, dann kann er mein Auto reparieren. (Das kostet ungefähr 50 Euro). Aber er konnte eine Teil von meinem Auto nicht finden und mit anderer Teil(verschidenen Artikelnummer) mein Auto repariert und er meinte, dass wenn ich wieder dieses Problem hätte, repariert er wieder mit richtiger Teil und wieder nach 1 Tag ist dieses Problem wieder passiert und habe ich mein Auto wieder mitgebracht. Aber er hat noch nicht die Servolenkung für mein Auto gefunden und er meinte, dass ich auch bei Ebay oder irgendwie die Teil suchen soll. Aber wenn ich wieder darüber telefoniert habe(weil ich leider nicht richtige Artikelnummer von meinem Auto kenne), hat er mir einfach gesagt, dass er einfach damals gar nicht repariert hat und d.h mein Auto wurde immernoch meine richtige ausfallende Teil eingebaut und er meinte, dass ich selber die Teil finden muss... Das ist echt scheiße. Deswegen habe ich die Servolenkung selber gekauft(200 Euro) und selber ausgetauch. Da ich nicht mehr dem Verkäufer vertrauen konnte. jzt alles wieder in Ordnung. Und letzte Woche habe ich Bremseleläge selber gewechselt da habe ich anderes Problem gefunden. Als ich hinten Bremsbeläge ausgebaut habe, habe ich ganz viel Problem gemerkt. Die Korben war festgeklebt im Zylinder deshalb Bremsbeläge einfach abgebrochen hat. Ich denke das ist sehr gefährlich.. Und Nach dem Rapatur von Hintenbremse kann ich nicht mehr schlechte Geräuch hören.. Dieses Geräuch hat auch als ich dieses Auto erstes Mal mitgenommen habe gehört, dachte ich, wegen ABS. Aber das war auch nicht.. Ich denke er hat total kaupttes Auto verkauft und gar nicht verantwortlich.. villeicht hat er mich ganz einfach unterschätzt weil ich ein Ausländer bin nicht so fließend Deutsch sprechen kann... In dem Fall was kann ich machen? Soll ich einfach anzeigen?