Seit Ende letzten Jahres ist künstliche Intelligenz plötzlich in aller Munde. Dank Programmen wie ChatGPT oder Bildgeneratoren wie Midjourney ist die Technologie im Mainstream angekommen. Eine Gruppe von Wissenschaftlern, Experten und Tech-Größen hat nun in einem offenen Brief gefordert, die Entwicklung einzustellen. Unterzeichner Stuart J. Russell geht nun in einem Interview noch weiter. Und warnt vor den drohenden Folgen der Technologie.
"Es ist ein Rezept für Katastrophen", glaubt Russell. Er beschäftigt sich seit Jahrzehnten mit künstlicher Intelligenz, ist Professor an der Universität Berkeley und Autor des Standardwerkes "Künstliche Intelligenz: ein moderner Ansatz". Der aktuelle Schub an nicht reglementierter KI sei ein Scheidepunkt für die Branche und die Menschheit, warnt er im Interview. "Wir können uns kein Tschernobyl für KI leisten."
Angst vor der Katastrophe
Den Vergleich wählt er nicht zufällig: Für ihn sei die aktuelle Situation mit dem Bau eines Atomkraftwerks vergleichbar. "Wollte ich ein Atomkraftwerk bauen, würde die Regierung von mir Nachweise verlangen, dass es sicher ist, ein Erdbeben übersteht, nicht explodiert", führt er aus. "Wenn ich das nicht könnte, würden sie ja auch nicht sagen: Dann eben nicht, fang' einfach an, ist schon in Ordnung." Aus diesem Grund müsste die Branche seiner Ansicht nach auch von der Regierung Grenzen gesetzt bekommen – wenn auch in Zusammenarbeit.
Ein großes Problem der aktuellen Entwicklung sei, dass man schlicht nicht wisse, wie die Technologie exakt funktioniere, erklärt Russell. Künstliche Intelligenz beruht darauf, dass man KI-Modelle auf Datensets trainiert und dann versucht, sie in eine bestimmte Richtung zu steuern. "Wir wissen, wie wir dahinkamen, dass Programme wie ChatGPT einen mathematischen Beweis im Stil eines Gedichtes von Shakespeare erbringen können. Aber wir haben keine Ahnung, wie sie das am Ende wirklich leisten. Wir wissen es schlicht nicht." Das würde auch das Vermeiden von Fehlverhalten erschweren, erläutert er. "Es ist, als würde man mit einem Hund schimpfen. Und ihm nur immer wieder sagen, dass er ein böser Hund ist, wenn er etwas falsch macht. Hoffentlich lernt er daraus."
Wohin soll die nächste Reise gehen? Das sind laut ChatGPT die zehn besten Urlaubsländer
Harte Forderung
Der Ende März veröffentlichte offene Brief, den neben Russell auch Tech-Milliardär Elon Musk und Apple-Gründer Steve Wozniak unterschrieben haben, fordert deshalb einen Entwicklungsstop. Doch Russell ist das nicht genug. "Aus meiner Sicht sind die dort geforderten sechs Monate nicht ausreichend", stellt der Professor klar. Seiner Einschätzung nach müsste erst für jede Art von KI eine Art Richtlinie für eine sichere Nutzung definiert werden – und erst nach einem Erfüllungs-Nachweis könnten Firmen ihre Programme dann veröffentlichen. "Wenn sich diese Richtlinien nicht festlegen lassen, wenn man ihre Einhaltung nicht nachweisen kann – dann wäre das eben Pech"; bringt er es trotzig auf den Punkt.
Dem Experten ist allerdings wichtig, dass seine Forderung nicht als Ablehnung von KI verstanden wird. "Ich forsche seit 45 Jahren an künstlicher Intelligenz, ich liebe sie. Ich glaube, ihr Potenzial die Welt positiv zu verändern ist grenzenlos", stellt er klar. "Aber wir wollen kein Tschernobyl für KI erleben, das wirklich ernste Konsequenzen hat." Wie die Konsequenzen aussehen könnte, wisse man schlicht noch nicht. Russell hat deshalb eine klare Forderung: "Wir müssen erwachsen werden und die Möglichkeit schwerer Folgen endlich ernst nehmen."
Quelle: Business Today
