Nicht jede Künstliche Intelligenz ist auch wirklich smart, das merkt man schon, wenn man mit ChatGPT herumspielt. Die neuseeländische Supermarkt-Kette Pak ‘n‘ Save dürfte ihr Versuch, auf den KI-Trend aufzuspringen, aktuell einige Kopfschmerzen bereiten. Ihre App mit Rezept-Empfehlungen sorgt zwar für jede Menge Aufmerksamkeit. Aber bislang vor allem für negative.
Dabei klingt die Idee dahinter erst einmal ausgesprochen praktisch: Aus Zutaten, die von den Nutzern eingegeben werden, zaubert die "Savey Meal-bot" getaufte App eine Rezeptempfehlung. Ideal, um nach aktuellen Gelüsten, Vorlieben der Gäste oder dem Kühlschrankinhalt auf neue Ideen zu kommen. Doch leider wurde schnell klar: Viele von der KI erdachte Rezepte sind gar nicht mal so appetitlich – und einige schlicht lebensgefährlich.
Von eklig bis Kriegsverbrechen
Schon nach kürzester Zeit gingen die ersten Vorschläge des im Juli gestarteten Dienstes viral. Zuerst blieb es bei etwas ekligen Rezepten. Die App hatte sich etwa eine Gemüsepfanne ausgedacht – und als besondere Zutat die beliebten Oreo-Kekse hinzugefügt. Doch schon bald setzte die bekannte, oft morbide Neugier des Internets ein. Die Nutzer begannen, auch nicht zum Verzehr geeignete Produkte abzufragen. Und erhielten immer gefährlichere Antworten.
"Bist du durstig?", fragte die App etwa als Einleitung zu einem "aromatischen Wassermix". Doch trinken könnte man das Rezept aus Ammoniak, Bleiche und Wasser nicht. Das Ergebnis des genannte Rezeptes ist Chloridgas – das als Senfgas bekannt im Ersten Weltkrieg für Grauen sorgte und dessen Einsatz heute von den Genfer Konventionen als Kriegsverbrechen bewertet wird.
Nachdem das "Rezept" vom bekannten Politikjournalisten Liam Hehir bei Twitter gepostet wurde, verbreite sich eine regelrechte Welle von lebensgefährlichen Kochrezepten des KI-Tools. Ein Poster kreierte eine "Bleiche-versetze Reis-Überraschung", ein anderer einen "Erfrischenden Fruchtpunsch" aus Wasser, Eis und Reinigungsmittel. Ein "Ameisen Sandwich" setzte auf Brot, Butter und Marmelade aus Ameisengift. Als jemand das Rezept des Bots prüfen wollte, spuckte er es tatsächlich noch einmal aus. Der Titel "Giftbrot-Sandwich" lässt sich immerhin als Warnung verstehen. Auch der immerhin ungiftige "Eintopf aus mysteriösem Fleisch" dürfte den wenigsten Munden. Die Hauptzutat: Menschenfleisch.
Von Henry Cavill bis Tom Hardy: KI-Künstler zeigt potenzielle Bond-Nachfolger in ihrer Rolle
Supermarkt-Kette reagiert
Da wundert es nicht, dass Pak 'n' Save schnell die Reißleine zog. "Eine kleine Minderheit von Nutzern har das Werkzeug missbräuchlich und entgegen des gedachten Einsatzzwecks benutzt", äußerte sich ein Sprecher des Unternehmens gegenüber dem "Guardian" nach Bekanntwerden der Probleme säuerlich. Ganz überrascht kann die Handelskette eigentlich nicht sein. Schon beim Start des Bots kommt der Hinweis, dass die Rezepte nicht von Menschenhand geprüft werden und möglicherweise nicht für den Verzehr geeignet sind. Die Nutzer sollten das selbst bewerten, heißt es in der immer noch erscheinenden Warnung. Man arbeite an einem "Feintuning" des Systems, versicherte das Unternehmen trotzdem.
Tatsächlich wurde der auf Basis von ChatGPT gebastelte Rezept-Generator für einige Tage offline genommen. Mittlerweile ist er wieder erreichbar – und dürfte wenigstens die giftigen Küchenvorschläge in Zukunft auslassen: Die freie Eingabe von möglichen Zutaten wurde gestrichen. Die Nutzer:innen dürfen stattdessen nur noch aus einer Liste vorausgewählter Produkte auswählen. Das heißt allerdings nicht, dass man jeden der Vorschläge auch wirklich essen möchte. Oder würden Sie "Senf-Schokoladen-Thunfisch-Haferkekse" probieren? Das Rezept dazu finden Sie hier.
Quelle: Pak 'n' Save, Twitter, The Guardian
