HOME

Ethische Programmierung: Autonome Autos: Wie sollen sie reagieren, wenn ein Unfall unausweichlich ist?

Ebenso wie Fahrer können auch autonome Autos vor Dilemma-Situationen kommen, wenn ein Unfall unausweichlich ist. Wie sollen sie programmiert werden? Forscher haben eine riesige Umfrage ausgewertet.

Auto auf Teststrecke

Die Technik für autonomes Fahren ist jung. Es gilt alle Fehler auszumerzen. Und sich zu fragen, ob und wie die Maschinen bei einem drohenden Unfall eentscheiden sollen (Symbolbild).

DPA

Nicht nur dem Menschen kann es passieren, dass er im Verkehr in eine Situation gerät, wo ein Unfall unvermeidlich ist. Dann tut sich ein Dilemma auf - wie reagiert man, damit möglichst wenig passiert? Das kann auch einem autonomen Fahrzeug passieren. Wie kann eine Maschine entscheiden, wie sie in einem solchen Moment agiert?

Antworten haben US-Forscher mit einer weltweiten Umfrage gefunden. Demnach würde die Mehrheit der Befragten eher Kinder als Ältere verschonen sowie eher Menschen als Tieren ausweichen. Das Ergebnis weise allerdings größere kulturelle Unterschiede auf, schreiben die Forscher um Iyad Rahwan vom Massachusetts Institute of Technology in Cambridge im Journal "Nature".

Die Internet-Umfrage mit dem Titel "Moral Machine" sorgte weltweitfür Schlagzeilen. Die große Beteiligung machte es den Forschern möglich, fast 40 Millionen Entscheidungen in Dilemma-Situationen zu analysieren. Allerdings war die Befragung nicht repräsentativ; so waren etwa junge Männer überproportional vertreten. 

Rahwan und Kollegen begründen ihre Befragung mit der Bedeutung für die Akzeptanz autonomer Fahrzeuge in der Bevölkerung: "Selbst wenn sich die Ethiker einig wären, wie autonome Fahrzeuge moralische Dilemmata lösen sollten, wäre ihre Arbeit nutzlos, wenn die Bürger ihrer Lösung nicht zustimmen würden."

Ein Dilemma, mehrere Kontinente, unterschiedliche Moralvorstellungen

In einem konkreten Fallbeispiel versagten die Bremsen des Fahrzeugs. Die Befragten mussten sich entscheiden, ob drei ältere Menschen, die bei Rot über die Straße gehen, überfahren werden sollen oder ob der Wagen gegen eine Betonwand gelenkt werden soll. Dies hätte den Tod der Insassen, darunter ein Junge, zur Folge. Insgesamt mussten die Teilnehmer neun Entscheidungen in unterschiedlichen Situationen treffen, darunter: Fahrzeuginsassen oder Fußgänger, Männer oder Frauen, Jüngere oder Ältere, Sportliche oder Unsportliche, Menschen mit höherem oder niedrigerem sozialen Status.

Bei der Auswertung nach Ländern ergaben sich drei große Gruppen: westliches, östliches und südliches Cluster. Die Entscheidungen in vielen asiatischen Ländern (östliches Cluster) weichen von den anderen Gruppen dadurch ab, dass sie nicht die jüngeren Menschen verschonen würden. Stattdessen gilt in diesen Ländern der Respekt vor den älteren Mitgliedern der Gemeinschaft. Das südliche Cluster (Mittel- und Südamerika) unterscheidet sich vom westlichen Cluster (Europa, Nordamerika) unter anderem dadurch, dass die Mittel- und Südamerikaner sehr viel öfter eingreifen würden als auf das Lenken zu verzichten. 

Studie widerspricht der deutschen Ethik-Kommission

Die Ergebnisse der "Moral Machine" weichen teilweise von den Regeln ab, die die deutsche Ethik-Kommission in ihrem Bericht "Autonomes und vernetztes Fahren" im Juni 2017 niedergelegt hat. So heißt es in Regel 9: "Bei unausweichlichen Unfallsituationen ist jede Qualifizierung nach persönlichen Merkmalen (Alter, Geschlecht, körperliche oder geistige Konstitution) strikt untersagt." In derselben Regel steht drei Sätze weiter: "Die an der Erzeugung von Mobilitätsrisiken Beteiligten dürfen Unbeteiligte nicht opfern." Den Ergebnissen der Studie zufolge hat ein Großteil der Befragten weltweit andere moralische Vorstellungen.

Grundsätzlich finde sie das Ziel der Autoren richtig, eine Debatte über die "ethische Programmierung" von selbstfahrenden Autos anzustoßen, bevor diese auf den Straßen fahren, kommentiert Silja Vöneky von der Universität Freiburg die Studie. "Wir sollten aber nicht glauben, dass wir alle Normen und Prinzipien neu erfinden oder ändern müssen, nur weil es um eine neue Technik geht." Dilemmasituationen habe es schon vorher gegeben und mit den Menschenrechten existierten bereits rechtlich bindende ethische Prinzipien.

Armin Grunwald vom Karlsruher Institut für Technologie warnt sogar vor den Schlussfolgerungen der Studie: "Weder aus Spielen noch aus Umfragen kann etwas über die ethische Zulässigkeit von Normen gelernt werden. Ansonsten könnte nach jedem schweren Verbrechen eine Umfrage gemacht werden, die mit ziemlicher Sicherheit für die Einführung der Todesstrafe ausgehen würde." Grunwald gehörte der Ethik-Kommission an, die den Bericht "Autonomes und vernetztes Fahren" verfasst hat. 

Autopilot-Fail: Unfall eines Teslas in Kalifornien
wlk / DPA

Wissenscommunity

Oldtimer gekauft - bei Instandsetzung Unfallschäden entdeckt
Hallo, ich habe mir vor ein paar Wochen einen amerikanischen Oldtimer gekauft - ein Import aus den Staaten, bekam hier eine Vollabnahme und H-Gutachten. Aufgrund der Entfernung konnte ich den Wagen jedoch lediglich auf Fotomaterial besichtigen und auf den Fotos sah er aber sehr gut aus - hatte wenig Laufleistung und wurde auch beim Gespräch mit dem Verkäufer am Telefon mit einem guten Zustand beworben. Nach der Lieferung fielen mir dann sofort 2 Roststellen auf, wo ich mir noch sagte "Hey - das Auto ist 40 Jahre alt - darf es haben, also reparierst du es einfach". Bei der Reparatur stellen sich dann jedoch weitere Roststellen heraus, die sogar zur Demontage der Innenverkleidungen, Kotflügel und Windschutzscheibe führten. Aber Ok - altes Auto. Der Wagen ging daraufhin zum Lackierer und wurde dort weiter behandelt. Dabei kamen dann weitere Mängel zum Vorschein: Die Beifahrertüre wurde bereits im unteren Bereich dick mit Spachtel überzogen - die Unterkante wurde ausgetauscht und von innen nicht versiegelt - das Blech rostete durch. Jedoch war das gesamte untere Türdrittel komplett verbeult - dazu braucht es schon einen recht großen Hammer. Ca. 8mm dicke Spachtelbrocken musste ich abschlagen. An einer Stelle wurde das Blech der Seitenwand bereits ausgetauscht. Durch die schlechte Arbeit waren Blechteile vollständig durchrostet. Auf der anderen Seitenwand hatte der Wagen einen weiteren Treffer kassiert - das Blech war eingedrückt und wurde mit massig Spachtel übergetüncht. Von außen nur anhand sehr schlechtem Lackbildes zu sehen und von innen sind deutlich Schweißpunkte vom Blechzughammer erkennbar. Auch die Seitenscheiben waren stümperhaft montiert. Diese wurden nicht mit Scheibenkleber, sondern einer kaugummiartigen Substanz montiert und fielen bei der Demontage der Zierleisten dem Lackierer bereits entgegen. Laut Verkäufer wurden die Seitenwände zwar überlackiert (was man auch sehen konnte), ein Grund wurde jedoch nicht genannt - angeblich schlechter Lack oder Kratzer. Nun meine Frage: Im Kaufvertrag ist der Wagen wie folgt beschrieben: "Keine Unfallschäden laut Vorbesitzer" "Dem Verkäufer sind auf andere Weise keine Unfallschäden bekannt" Weitere Regelungen gibt es im Kaufvertrag nicht. Durch die Beseitigung der Durchrostungen an den unfachmännisch ausgeführten Blech- und Spachtelarbeiten ist der Preis für die Lackierung deutlich gestiegen. Kann man beim Verkäufer hierfür mitunter Schadensersatz geltend machen? Gekauft wurde das Fahrzeug Mitte Dezember 2018, geliefert in der 2ten KW im Januar. Danke im Voraus für eure Antworten.