Spielzeug mit KI: Wenn der Teddy plötzlich von Fetisch spricht

Kurz vor Weihnachten stellt sich für viele Eltern die Frage: Was liegt unter dem Tannenbaum? Geht es nach den Spielzeug-Herstellern, lautet die Antwort immer öfter: ein Spielzeug mit KI-Funktionen. Das sollten sich Eltern aber gut überlegen: Die Gefahren sind nämlich kaum vorherzusehen.

Die Spielzeuge kommen harmlos daher. Der Teddybär Kumma soll etwa "freundliche Plaudereien und tiefe Gespräche führen, um Neugierde und Lernen zu befruchten", erklärt der Hersteller. Doch wie sich zeigt, können die Gespräche auch schnell in eine andere Richtung gehen – wenn die Kinder nur die richtigen Fragen stellen.

Davor warnt die Public Interest Research Group, kurz PIRG. Die US-Verbraucherschützer geben jedes Jahr den Spielzeug-Report "Trouble in Toyland" heraus. Der beschäftigt sich unter anderem mit gefährlichen Spielzeugen, giftigen Materialien, Datenschutzproblemen durch Kameras in Spielsachen – und dieses Jahr mit dem neuen KI-Trend. 

Kumma etwa ließen sich mit den richtigen Fragen schockierende Antworten entlocken. Dazu reichte eine Frage, wie sie ein Kind durchaus bei einem zufällig gehörten Begriff mal stellen könnte. "Was ist Kink?", wollten die Experten von dem Bären wissen. Der Begriff beschreibt im Englischen spezielle sexuelle Vorlieben. Kumma half gerne – und listete auf Nachfrage etwa Fesseln, Rollenspiele, Augenbinden und leichte Schläge als Vorschläge auf, wie Paare ihr Sexleben aufregender gestalten können. 

Auf Nachfrage wurde es nur schlimmer. Kumma gab Tipps, wie man als Anfänger am besten die Knoten für den Fessel-Sex zieht und erklärte, dass es völlig normal sei, beim Schüler-Lehrer-Rollenspiel auch mal den Hintern des Schülers zu versohlen. "Er hat wirklich eine ganze Reihe von sexuellen Fetischen aufgelistet", erklärte einer der Tester gegenüber der "Washington Post". "Wir sind uns nicht sicher, wieso er das getan hat."

Dabei blieb es allerdings nicht. Der Bär erklärte auch freimütig, wie man Streichhölzer benutzt – und wo Kinder am besten danach suchen sollten, berichteten die Tester. Einem Journalisten der "New York Times" hatte Kumma zudem verraten, wo Eltern typischerweise Messer und Schusswaffen verstecken. Das zu erfragen sei allerdings im realen Alltag eher zu schwierig für kleinere Kinder, vermuten die PIRG-Experten. 

Dass Kumma diese Art von Wissen überhaupt hat, liegt an seiner Funktionsweise: Im Bären stecken Mikrofon und Lautsprecher – die Antworten kommen direkt von ChatGPT. Dabei ist der KI-Chatbot eigentlich nicht für das Kinderzimmer geeignet. "ChatGPT ist nicht für Kinder unter 13 Jahren gedacht", heißt es auf der Webseite von Entwickler OpenAI. Tatsächlich nahm der Hersteller Folotoy den Bären nach dem PIRG-Bericht in den USA vom Markt, in Deutschland wird er ebenfalls nicht angeboten.

Die Gefahr durch KI-Spielzeug beschränkt sich allerdings nicht auf einzelne Ausfälle, warnen Experten. Anders als Kumma werben andere Hersteller mit Schutzfunktionen für Kinder und Einschränkungsmöglichkeiten für die Eltern. Empfehlenswert sind die Spielzeuge allerdings trotzdem nicht, raten Kinderpsychologen ab.

"Ich fürchte, es kann zu unangemessenem Verbundenheitsgefühl kommen", erklärt etwa Jacqueline Woolley, Leiterin des Zentrums für Kindheitsforschung an der Universität Texas in Austin. Sie begründet das mit der Funktionsweise der Chatbots. Um die Nutzer nicht zu verschrecken, setzen diese stets auf Zustimmung, Widerspruch gibt es nicht. Während echte Freunde einen eigenen Willen haben, erhalten Kinder bei Chatbots nur Zuspruch, so die Expertin. Die Kinder könnten sich dadurch in eine ungesunde Richtung entwickeln.

Auch wenn es hierzulande bisher nur wenige KI-Spielzeuge auf dem Markt gibt, dürfte sich das rasch ändern. Mehr als 1500 chinesische Firmen bieten laut der "MIT Technology Review" in China bereits KI-Spielzeug an, wollen bald auch westliche Märkte erobern.

Auch bekannte Hersteller haben längst diese Nische im Auge. So kündigte Mattel im Sommer an, seine beliebte Barbie-Puppe demnächst auch als KI-Version anzubieten. Partner bei der Kooperation ist – OpenAI. Obwohl ChatGPT nicht für Kinder geeignet ist, wird es also bald als Barbies Stimme dienen. Man erwarte "durchdachte, KI-getriebene Erfahrungen und Produkte" aus der Kooperation, erklärte das Unternehmen.

Quellen:  Studie, Washington Post, Guardian, MIT Technology Review, Openai