Spätestens mit der Veröffentlichung von ChatGPT war klar: Künstliche Intelligenz (KI) wird in unserem Alltag eine immer größere Rolle spielen. Vor allem die sogenannte Generative KI, die Texte oder Bilder automatisch erstellt, erobert das Internet im Sturm. Ein aktueller Patzer Microsofts zeigt nun, warum trotzdem immer ein Mensch nochmal über die Inhalte schauen sollte.
Konkret geht es um einen Reiseführer für das kanadische Ottawa, der auf Microsofts Portal MSN erschien. Unter dem Titel "Sie fahren nach Ottawa? Das sollten Sie nicht verpassen" listete der die 15 beliebtesten und schönsten Ziele der kanadischen Hauptstadt. Neben klassischen Sehenswürdigkeiten wie Museen und dem Winterlude Festival fand sich auf Platz 3 allerdings eine peinliche Verfehlung: In enthusiastischen Worten riet der Führer dazu, die Ottawa Food Bank zu besuchen, das kanadische Äquivalent zur deutschen Tafel.
Armenspeisung als Touri-Attraktion
"Das Leben ist schwer genug", schreibt der Artikel zu seiner Empfehlung. Und rät: "Kommen Sie mit leerem Magen." Obwohl der Großteil des Textes durchaus zutrifft – der Kurztext beschreibt die Praxis der Food Bank, bedürftige Personen und Familien mit Lebensmitteln und Alltagsprodukten zu versorgen – wirkt er im Kontext der Reise-Empfehlungen natürlich völlig deplatziert.
Kein Wunder, dass sich schnell Spötter fanden. "Microsoft räumt bei KI-unterstützten Reiseführern so richtig ab", witzelte etwa Tech-Autor und KI-Kritiker Paris Marx beim früher als Twitter bekannten Kurznachrichtendienst X. "Wenn man Ottawa besucht, empfiehlt es sehr die Food Bank. Und gibt tolle Tipps für Touristen dazu." Kurze Teit später berichtete der Fachblog "The Verge" unter Berufung auf Marx darüber. Microsoft zog die Reißleine: Der Artikel ist mittlerweile verschwunden.
Wohin soll die nächste Reise gehen? Das sind laut ChatGPT die zehn besten Urlaubsländer
Peinlicher Fehler
Der Patzer zeigt, warum der reine Verlass auf Künstliche Intelligenz bei der Erstellung von Inhalten weiter hochriskant ist. Die Idee ist eigentlich nachvollziehbar: Zu beliebten Reisezielen finden sich Unmengen Materialien im Netz, die sich mit KI-Hilfe schnell in übersichtliche Artikel zusammenfassen lassen. Auch beim stern experimentierten wir bereits damit, welche Reisetipps wohl eine KI geben würde. Wichtig ist dabei allerdings, dass zum einen die Artikel als KI-generiert markiert werden – und sie dann noch mal von einem Mensch geprüft werden sollten.
Ob das bei Microsoft passiert ist, versucht nun auch das Unternehmen selbst herauszufinden. "Der Artikel wurde entfernt und wir ermitteln gerade, wie er durch unseren Prüfungsprozess kommen konnte", sagte ein Sprecher des Unternehmens gegenüber "The Verge".
Dass der Patzer ausgerechnet Microsoft passiert, ist für den Konzern gleich doppelt peinlich. Zum einen hatte man bei MSN bereits 2020 angefangen, Texte durch KI verfassen zu lassen und deshalb sogar Journalisten entlassen, es gibt also genügend Erfahrung mit dem Thema. Zum anderen gilt Microsoft als eines der führenden Unternehmen beim Einsatz von KI: Der Konzern ist einer der wichtigsten Investoren in den ChatGPT-Betreiber OpenAI, nutzt den Chatbot als Teil seines Assistenten Bing. Nun führt man nun seinen Kunden vor, warum man sich auf die KI-Produkte doch nicht hundertprozentig verlassen sollte.
Quellen: Microsoft (via Internet Archive), The Verge, X
