Es kommt nicht oft vor, dass das Thema des aktuellen stern-Titels so gewichtig ist, dass sich auch der Deutsche Ethikrat damit befasst. "Was erschaffen wir da gerade?", fragt der stern in dieser Woche und beschreibt dabei die Chancen und Risiken von Künstlicher Intelligenz (KI). Die Stellungnahme des Ethikrates ist noch ein wenig umfangreicher. In einem 287 seitigen Bericht loten die 26 Mitglieder aus, wo sie den Einsatz von KI-basierten Systemen für unproblematisch halten und bei welchen Themen sie Bedenken entwickeln.
Die Stellungnahme war im Oktober 2020 vom damaligen Bundestagspräsidenten Wolfgang Schäuble (CDU) initiiert worden und trägt den Titel "Mensch und Maschine – Herausforderungen durch künstliche Intelligenz".
Die zentrale Botschaft des Werks verkündete die Vorsitzende des Deutschen Ethikrats, Alena Buyx , am Montag auf einer Pressekonferenz in Berlin. "Der Einsatz von KI muss menschliche Entfaltung erweitern und darf sie nicht vermindern", sagte Buyx. "KI darf den Menschen nicht ersetzen." Das seien die Leitlinien für die Bewertung des Zusammenwirkens von Mensch und KI.
Der Ethikrat ist ein unabhängiges Gremium in Deutschland, das sich mit ethischen Fragen und Herausforderungen im Bereich der Naturwissenschaften, Medizin und Gesundheitsversorgung beschäftigt. Die 26 Mitglieder werden von der Präsidentin des Deutschen Bundestages ernannt. Der Bundestag oder die Bundesregierung können den Ethikrat beauftragen, zu bestimmten Themen zu beraten, so wie es Wolfgang Schäuble vor zweieinhalb Jahren eben getan hat.
Künstliche Intelligenz: Einsatz in Medizin, Bildung, Kommunikation und Verwaltung beurteilt
Konkret haben sich die Mitglieder in den vergangenen zweieinhalb Jahren das Potenzial von KI in vier Bereichen genauer angeschaut: Medizin, schulische Bildung, öffentliche Kommunikation und Meinungsbildung sowie öffentliche Verwaltung. Dabei habe sich gezeigt, dass die Beurteilung von KI immer kontext-, anwendungs- und personenspezifisch erfolgen muss. Das Delegieren von Tätigkeiten an Maschinen könne "für verschiedene Personengruppen, Akteure und Betroffene ganz unterschiedliche Auswirkungen haben", erläuterte die Sprecherin der Arbeitsgruppe, Judith Simon. Die Schlüsselfrage zur ethischen Beurteilung sei daher, ob die Handlungsspielräume der agierenden Menschen durch den Einsatz von KI erweitert oder vermindert werden.
Für den Medizinbereich etwa führt der Ethikrat Gründe auf, warum ein KI-Einsatz sinnvoll sein könne: So könnten mit Hilfe von KI Versorgungsengpässe aufgrund von Personalmangel gelindert und präzisere Diagnosen erstellt werden. Bei der Entwicklung und Nutzung von KI-Produkten müsse allerdings ein ärztlicher Kompetenzverlust vermieden werden. Die Privatsphäre von Patientinnen und Patienten müsse mit intensiver Datennutzung in der medizinischen Forschung in Einklang gebracht werden. "Eine vollständige Ersetzung der ärztlichen Fachkraft durch das KI-System gefährdet das Patientenwohl", heißt es in der Stellungnahme.
Der Einsatz von KI in der schulischen Bildung sollte nach den Empfehlungen nicht durch technologische Visionen gesteuert werden, sondern sich an grundlegenden Bildungsvorstellungen orientieren. Er sollte sich zudem auf Elemente beschränken, die nachweislich die Kompetenzen und sozialen Interaktionen der Lernenden erweitern.
Im Bereich der öffentlichen Kommunikation und Meinungsbildung empfiehlt der Ethikrat unter anderem Weiterentwicklungen der Regeln für Online-Plattformen hinsichtlich der Auswahl und Moderation von Inhalten sowie zu personalisierter Werbung und zum Datenhandel. Außerdem fordert er besseren Zugang auf Plattformdaten für die Forschung und empfiehlt, den Aufbau einer digitalen Kommunikationsinfrastruktur in öffentlich-rechtlicher Verantwortung zu erwägen.
Maschinellen Empfehlungen nicht blind folgen
Für den KI-Einsatz der öffentlichen Verwaltung müssten die Bürgerinnen und Bürger vor Diskriminierung geschützt werden. Maschinellen Empfehlungen dürfe man nicht blind folgen. Weiterhin müssten Einzelfallbetrachtungen sowie die Einsichts- und Einspruchsrechte von Betroffenen gewährleistet werden.
Wo auch immer man in den vier Bereichen die Grenze zieht, die zentrale Botschaft des Ethikrats fasste dessen stellvertretender Vorsitzender Julian Nida-Rümelin zusammen: KI-Anwendungen können menschliche Intelligenz, Verantwortung und Bewertung nicht ersetzen."
