Die Software des US-Unternehmens OpenAI steht seit November 2022 kostenfrei zur Verfügung. Nutzer sind fasziniert von den Texten und Antworten, die der Chatbot generiert. Aber was sind die Risiken?
Software schreibt Texte Faszinierende KI: Wo die Grenzen von ChatGPT liegen – und wo die Risiken
Was ist ChatGPT? Diese Frage beschäftigt derzeit Menschen rund um die Welt. Und natürlich hat der Chatbot auch hier eine Antwort parat. Die Software des Unternehmens OpenAI simuliert menschliche Konversation, gestützt durch Künstliche Intelligenz. Aus Textdaten, mit denen sie gefüttert wird, kann die App lernen, praktisch jede Art von Inhalt zu erstellen. Sogar Romantexte oder Poesie. "GPT steht für Generative Pre-trained Transformer", sagt Andrew Patel von der in Helsinki ansässigen Cybersicherheitsfirma WithSecure. "Das KI-Modell wird anhand enormer Datenmengen trainiert. Im Prinzip schreibt es das weiter, was man hineingegeben hat. Wenn man etwas fragt, antwortet es, wenn man es bittet, für einen weiterzuschreiben, macht es das." Das sich das für die Nutzer "wie Magie" anfühlt, liegt laut Patel daran, wie faszinierend der Chatbot das macht. Dabei ist es eigentlich nichts Neues, das Maschinen durch menschliches Feedback lernen. Erste Modelle dieser Technologie seien schon in den 1990er Jahren entwickelt worden, sagt Tim Scarfe von der britischen Tech-Firma XRAI. Seitdem habe es eine kleine Revolution gegeben. "Die frühen Versionen hatten sehr, sehr kleine neuronale Netze. Seither sind die neuronalen Netze größer und tiefer geworden." Und sie lernen jetzt nach Kontext. Die Maschine bei jedem Schritt neu zu trainieren, ist nicht mehr nötig. "Den Leuten wurde klar, dass man dem Modell ein Shakespeare-Sonett vorgeben konnte, und es generierte einfach weiter Shakespeare-Inhalte. Dann wurde man etwas experimentierfreudiger und sagte sich: Warum geben wir ihm nicht einfach Fragen? Warum fragen wir es nicht nach Mathematik? Oder Dingen, für die es gar nicht trainiert wurde? Und dabei offenbarte sich dann diese Fähigkeit zum logischen Denken." Im vergangenen November stellte OpenAI die KI-Software für kostenlose öffentliche Tests zur Verfügung. Innerhalb einer Woche versuchten laut Angaben des Unternehmens bereits über eine Million Nutzer, den ChatBot zum Plaudern zu bringen. Oder einfach schnell ein paar Referate zu erledigen. Immer wieder taucht auch diese Frage auf: Was sind die Risiken? Wer Böses im Schilde führe, könne zum Beispiel ein Skript aus Konversationen zwischen Twitter-Nutzern schreiben, sagt Andrew Patel. "Und mit einem solchen Skript könnte man dann die wahrgenommene politische Landschaft in einem sozialen Netzwerk beeinflussen. Oder die Belästigung einzelner Personen automatisieren." Texte können zudem irreführend oder verzerrt sein, wenn die Dateneingabe zu einseitig ist. Tech-Giganten wie Google und Amazon haben bereits eingeräumt, dass einige ihrer Projekte, bei denen mit KI experimentiert wurde, "ethisch heikel" waren. Bei mehreren Firmen mussten Menschen eingreifen, um Schäden zu beheben.
