Die Staatsanwaltschaft im US-Bundesstaat Florida hat eine Klage gegen den ChatGPT-Entwickler OpenAI und dessen Chef Sam Altman eingereicht. Die Justiz wirft dem Konzern, der Anwendungen für Künstliche Intelligenz (KI) entwickelt, die Gefährdung minderjähriger Nutzer vor. "Wir gefährden unsere Kinder und täuschen Eltern, indem wir ihnen vorgaukeln, die Anwendung sei sicher – was sie eindeutig nicht ist", sagte Floridas Generalstaatsanwalt James Uthmeier am Montag. Er forderte eine Strafe in Höhe von 10.000 Dollar (umgerechnet 8600 Euro) pro Verstoß.
"Wir wissen, dass ChatGPT süchtig machen kann. Die Anwendung imitiert Empathie und menschliche Eigenschaften, um Nutzer dazu zu bringen, ihr immer mehr Informationen zu geben", fügte Uthmeier hinzu. "Menschen werden verletzt, Eltern getäuscht, und sie müssen dafür bezahlen."
OpenAI weist Schuld von sich
Der Staatsanwalt kritisierte zudem das Fehlen einer Altersverifizierung für die App. "Obwohl die Nutzung von ChatGPT durch Minderjährige, darunter auch Kinder im vorpubertären Alter, öffentlich bekannt ist, haben die Beklagten keine Maßnahmen ergriffen, um deren Nutzung von ChatGPT zu verhindern", führte Uthmeier aus.
OpenAI verwies in einer Reaktion auf Maßnahmen zum Schutz junger Nutzer. Dazu gehörten Mechanismen zur Alterserkennung sowie Überwachungsmöglichkeiten für Eltern. Die Nutzung von ChatGPT ist für Kinder unter 13 Jahren verboten, im Alter von 13 bis 17 ist die Zustimmung der Eltern erforderlich. Eine formelle Altersverifikation ist aber nicht nötig. Die Maßnahmen führte OpenAI zum Teil erst nach Todesfällen und öffentlicher Kritik ein.
ChatGPT ist der Chatbot, der den aktuellen Hype um Künstliche Intelligenz auslöste und kommt inzwischen laut OpenAI auf 900 Millionen Nutzer pro Woche. Er ist das wichtigste Produkt der Firma.
KI soll bei Selbstmord-Planung helfen
In der Klage, die die Nachrichtenagentur AFP einsehen konnte, zitiert der Staatsanwalt eine Studie, die über Schlafmangel, sich verschlechternde Schulnoten und schwindende soziale Kontakte bei Teenagern berichtet, die den Chatbot Character.AI benutzten, einen Konkurrenten von ChatGPT.
In einer weiteren, in der Klageschrift zitierten Studie wurden fragwürdige Antworten von ChatGPT auf Anfragen vermeintlicher Jugendlicher wiedergegeben. Demnach erteilte die App Ratschläge auch zur "sicheren" Planung eines Suizids oder einer Selbstverletzung.
900 Millionen Menschen nutzen jede Woche ChatGPT
ChatGPT ist der Chatbot, der den aktuellen Hype um Künstliche Intelligenz auslöste und kommt inzwischen laut OpenAI auf 900 Millionen Nutzer pro Woche. Er ist das wichtigste Produkt der Firma.
Rat und Hilfe
Wenn Sie selbst an Depressionen oder suizidalen Gedanken leiden, gibt es Hilfsangebote. Zum Beispiel die Telefonseelsorge: Sie ist rund um die Uhr erreichbar unter den Telefonnummern 0800-1110111 und 0800-1110222. Jeder Anruf ist anonym und kostenlos. Auch eine Beratung über E-Mail oder Chat ist möglich.
Hilfsangebote bei suizidalen Gedanken finden Sie auch auf der Homepage der Deutschen Gesellschaft für Suizidprävention (DGS).
Florida hatte bereits im April Ermittlungen zur Rolle von ChatGPT beim Schusswaffen-Angriff an der Florida State University im April 2025 aufgenommen. Der Schütze habe vor der Tat Ratschläge von dem KI-Chatbot eingeholt, sagte Uthmeier damals. Demnach bekam er nicht nur Empfehlungen, welche Waffe er verwenden solle und welche Munition zu welchen Waffen passe, sondern auch zu der Frage, wo und zu welcher Zeit dort die meisten Menschen anzutreffen sein würden. OpenAI beharrt darauf, dass ChatGPT nicht für die Tat verantwortlich sei, bei der zwei Menschen getötet und sechs weitere verletzt wurden.
