Ein Richter in der kolumbianischen Hafenstadt Cartagena hat sich bei einer juristischen Entscheidung von künstlicher Intelligenz helfen lassen. Er habe in einem Fall, in dem es um die medizinische Versorgung eines Kindes ging, den Chatbot ChatGPT eingesetzt, erklärte Richter Juan Manuel Padilla Medienberichten zufolge dem Sender Blue Radio. Zusätzlich habe er Präzedenzfälle für seine Urteilsfindung herangezogen.
In dem aktuellen Fall ging es demnach um die Frage, ob die Eltern eines autistischen Kindes, die nur über ein unzureichendes Einkommen verfügen, die Kosten für Arzttermine, Therapie und Transport von der Krankenversicherung erstattet bekommen. Padilla kam zu dem Schluss, dass die Kasse diese Ausgaben übernehmen muss.
Padillas Chatbot-Einsatz sorgt für Wirbel
Chatbots wie der von der Firma "Open AI" entwickelte ChatGPT verwenden künstliche Intelligenz und Unmengen von Daten aus dem Internet, um Antworten auf von menschlichen Nutzern gestellte Fragen zu generierenoder Reden, Aufsätze, Bewerbungsschreiben, Gedichte und alle möglichen anderen Texte zu schreiben, die klingen sollen, als habe ein Mensch sie verfasst. Angesichts der technischen Fortschritte auf dem Gebiet gelingt das immer besser – und bringt Probleme mit sich, zum Beispiel im Bildungsbereich. So machte ChatGPT kürzlich Schlagzeilen, als bekannt wurde, dass der Bot Prüfungen an Universitäten bestanden hat.
Im Fall des Kindes hatte Padilla den Bot nach Angaben der Nachrichtenagentur AFP unter anderem gefragt: "Sind autistische Minderjährige von der Zahlung von Gebühren für ihre Therapien befreit?" ChatGPT habe geantwortet: "Ja, das ist richtig. Nach den Vorschriften in Kolumbien sind Minderjährige, bei denen Autismus diagnostiziert wurde, von der Zahlung von Gebühren für ihre Therapien befreit."
Während Padillas Urteil selbst nicht viel Aufsehen erregte, löste die Einbeziehung des Chatbots eine Debatte über die Verwendung von künstlicher Intelligenz in juristischen Fragen aus. "Es ist sicherlich nicht verantwortungsvoll oder ethisch vertretbar, ChatGPT so zu nutzen, wie es der Richter in der fraglichen Entscheidung getan hat", kritisierte Professor Juan David Gutierrez von der Universität Rosario auf Twitter. Er habe dem Bot die gleichen Fragen gestellt und verschiedene Antworten erhalten. Gutierrez, ein Experte für die Regulierung und Steuerung künstlicher Intelligenz, forderte eine dringende Schulung der Richter in "digitaler Kompetenz".
Diese "Fotos" wurden komplett von einer künstlichen Intelligenz generiert
Unsere Bildbeschreibung für die KI lautete: "A horse race in front of the Eiffel tower in Paris, high quality"
Octavio Tejeiro, Richter am Obersten Gerichtshof Kolumbiens, sagte der britischen Zeitung "The Guardian", die künstliche Intelligenz erzeuge in der Justiz moralische Panik, da die Menschen befürchteten, dass Roboter die Richter ersetzen könnten. Seiner Ansicht nach werde sie aber wahrscheinlich bald als Werkzeug akzeptiert und alltäglich werden.
"Das Justizsystem sollte Technologie bestmöglich als Werkzeug nutzen, aber immer unter Beachtung der Ethik und unter Berücksichtigung der Tatsache, dass der Verwalter der Justiz letztendlich ein Mensch ist", zitiert die Zeitung Tejeiro. "Sie muss als ein Instrument gesehen werden, das dem Richter hilft, sein Urteilsvermögen zu verbessern. Wir dürfen nicht zulassen, dass das Werkzeug wichtiger wird als die Person". Er selbst habe ChatGPT noch nicht benutzt, erklärte der Richter, ziehe aber in Betracht, das in Zukunft zu tun.
Richter verteidigt Chatbot-Nutzung
Padilla rechtfertigte seinen Einsatz der Technologie mit dem Hinweis, dass sie das aufgeblähte kolumbianische Rechtssystem effizienter machen könnte. ChatGPT leiste Arbeit, die zuvor eine Sekretärin erledigt habe, und zwar "in einer organisierten, einfachen und strukturierten Weise", die "die Reaktionszeiten" in der Justiz verbessern könne.
Programme dieser Art könnten nützlich sein, um "die Abfassung von Texten zu erleichtern", aber "nicht mit dem Ziel, Richter zu ersetzen", sagte Padilla AFP zufolge Blue Radio. Er betonte demnach, dass "wir durch das Stellen von Fragen an die Anwendung nicht aufhören, Richter zu sein, denkende Wesen".
Der Chatbot selbst sieht seine neue Rolle im Justizsystem kritischer, wie der "Guardian" schreibt. "Richter sollten ChatGPT nicht verwenden, wenn sie über Rechtsfälle entscheiden […] Es ist kein Ersatz für das Wissen, die Expertise und das Urteilsvermögen eines menschlichen Richters“, habe er auf eine Frage der Zeitung geantwortet – und hinzugefügt: "Journalisten sollten Vorsicht walten lassen, wenn sie von ChatGPT generierte Zitate in ihren Artikeln verwenden."
Quellen: "The Guardian", AFP
