Die Regierung sehe "nicht einvernehmliche" Deepfakes - KI-generierte, täuschend echte Bilder und Videos - als "schwerwiegende Verletzung der Menschenrechte, der Würde und der Sicherheit der Bürger im digitalen Raum", hieß es in der Erklärung der Ministerin weiter. Ihr Ministerium bestellte demnach Vertreter von Musks Onlinedienst X ein, über den Grok genutzt werden kann.
Ende Dezember war auf X eine Schaltfläche "Bild bearbeiten" für das generative KI-Werkzeug eingeführt worden. Seitdem häufen sich Beschwerden über den "spicy mode" (doppeldeutig: scharfer Modus), der laut X "rohe" und "ungefilterte" Anfragen zulässt, bei denen "kein Thema" tabu sei.
Musks für Grok zuständige KI-Firma xAI erklärte Anfang Januar, sie bemühe sich darum, Fehler in dem KI-Werkzeug zu beheben. Zu der Sperrung von Grok in Indonesien äußerte sich xAI auf Anfrage der Nachrichtenagentur AFP zunächst nicht.
Das mehrheitlich muslimische Indonesien ist das erste Land, das Grok vollständig sperrt. Zuvor war die Nutzung des Tools anderswo auf zahlende Kunden beschränkt worden. EU-Vertreter sowie Aktivisten kritisierten die Entscheidung, die Nutzung von Grok auf zahlende Abonnenten zu begrenzen, jedoch scharf und erklärten, dass damit die Bedenken hinsichtlich sexueller Deepfake-Inhalte nicht ausgeräumt würden.
Die EU-Kommission prüft eigenen Angaben zufolge Beschwerden über Grok wegen kinderpornografischer Bilder. Die Kommission nehme die Beschwerden "sehr ernst", hatte ein Sprecher am Montag in Brüssel gesagt. Für derartige Bilder gebe es "in Europa keinen Platz".
