Der KI-Bildgenerator Midjourney hat wegen wiederholten Missbrauchs seiner Software seine Dienste eingeschränkt. Beim Erstellen von Bildern kann nun etwa das Wort "verhaften" nicht mehr verwendet werden, wie die Nachrichtenagentur AFP am Donnerstag feststellte. Außerdem wurde das Angebot einer kostenlosen Testversion ausgesetzt.
Der Dienst von Midjourney erzeugt mittels künstlicher Intelligenz höchst realistisch aussehende Bilder auf der Grundlage von schriftlichen Vorgaben der Nutzer. In den vergangenen Tagen sorgte insbesondere ein künstlich erstelltes Bild von Papst Franziskus in einer glänzend weißen Daunenjacke sowie eines, das die Verhaftung von Ex-US-Präsident Donald Trump zeigen soll, für Aufsehen.
Bei Midjourney ist das Wort "verhaftet" jetzt verboten
Beim Versuch, ein ähnliches Bild zu generieren, blendet Midjourney nun den Hinweis ein, dass das Wort "verhaftet“ verboten sei. Verbunden mit der Warnung: "Die Umgehung dieses Filters, um gegen unsere Regeln zu verstoßen, kann dazu führen, dass Ihr Zugang gesperrt wird."
"Aufgrund einer Kombination aus außerordentlicher Nachfrage und Missbrauch von Testversionen deaktivieren wir vorübergehend kostenlose Testversionen, bis wir unsere nächsten Verbesserungen am System implementiert haben", erklärte außerdem Midjourney-Gründer David Holz.
Lesen Sie bei stern+: Wie ein Lauffeuer machte ein Bild von Papst Franziskus in dicker Daunenjacke die Runde. Das Problem: Das Foto wurde nie gemacht. In Zukunft dürfte das noch deutlich häufiger passieren.
