KI KILLS – TÖDLICHES KNOBLAUCHÖL

Wäre die Künstliche Intelligenz ein Mensch, könnte man ihr zugutehalten: Sie ist noch nicht lange auf der Welt, also noch ein Kind, und muss noch viel lernen. Rasierschaum zum Beispiel sieht nur so aus wie Sahne, schmeckt aber nicht so. Und auch der von der von der Google-KI Gemini vorgeschlagene Rat, jeden Tag einen kleinen Stein zu essen, sollte wohl besser nicht in die Tat umgesetzt werden. Den Käse mit Klebstoff an der Pizza zu befestigen, auch so ein Tipp  – ach nein, lassen Sie’s lieber.

Gottseidank ist keiner von uns so fortschrittsgläubig, dass er die Empfehlungen der KI ungefragt übernimmt. Jedoch, als Google Ende Mai 2024 in den USA die sogenannten KI-Übersichten für seine Suchmaschine ausgerollt hatte, kam es teils zu kuriosen und ungewollt komischen Inhalten. Die Netzgemeinde amüsierte sich königlich. Das lag freilich daran, dass auf den ersten Blick zu erkennen war, dass man die Empfehlungen besser nicht befolgen sollte. Ganz anders ging es jetzt einem Reddit-Nutzer, der auf KI-Vorschlag ein köstliches Knoblauchöl zubereiten wollte.

Er wollte also Knoblauch in Olivenöl einlegen (ohne das Ganze zu erhitzen) und fragte Gemini um Rat. Die KI antwortete. Der Nutzer bereitete das Ganze wie vorgeschlagen zu, zerdrückte die Knoblauchzehen und tat sie in ein mit Öl gefülltes Glas. Das schraubte er zu und ließ es mehrere Tage bei Zimmertemperatur stehen.

Durch das Glas erkennbar, bildeten sich nach einigen Tagen Bläschen. Die auch wieder verschwanden. Der Hobbykoch wurde unsicher: Was war das gewesen? Er befragte wiederum die Google-Suchmaschine und erlitt einen kleinen Schock: Den dortigen Angaben zufolge dürfte sich in dem Glas das Bakterium Clostridium botulinum entwickelt haben, das wiederum als Stoffwechselprodukt den Giftstoff Botulinumtoxin bildete.

Das Toxin gibt den Namen für eine lebensbedrohliche Erkrankung: den Botulismus. Diese Vergiftung wird meist durch verdorbenes Fleisch oder Fisch sowie durch nicht fachgerecht eingekochtes Gemüse hervorgerufen.

Freilich ist nicht sicher, ob es sich bei dem geschilderten Fall überhaupt um Botulinumtoxin gehandelt hat. Das deutsche Bundesinstitut für Risikobewertung (BfR) allerdings warnt explizit vor der eigenhändigen Herstellung von mit Knoblauch oder frischen Kräutern aromatisierten Ölen. Zuletzt seien mehrere „Krankheitsausbrüche nach dem Verzehr von in Öl eingelegtem Gemüse (meist Knoblauch in Öl) aus den USA und Kanada“ bekannt geworden. In Deutschland sollen in den Jahren 2008 bis 2013 insgesamt 36 Fälle von Botulismus beim Menschen bekannt geworden sein. Einer davon endete tödlich.

Botulismus

Clostridium (C.) botulinum ist ein Bakterium, das sich nur bei Abwesenheit von Sauerstoff vermehren kann. Es kann Sporen bilden: Das sind widerstandsfähige Bakterienformen, die auch ungünstige Umwelteinflüsse überleben und im Boden sowie auf fast allen pflanzlichen Lebensmitteln vorkommen.

Außerdem bildet C. botulinum Neurotoxine, die beim Menschen Botulismus auslösen können. Das BfR schreibt dazu: „Botulismus ist eine sehr schwerwiegende Erkrankung, die mit unspezifischen Symptomen wie Übelkeit, Erbrechen und Magen-Darm-Störungen beginnt. Dann zeigen sich die für den Botulismus typischen Krankheitszeichen wie Doppelsehen, Pupillenstarre, Sprachstörungen und später Atemlähmung und Ersticken bei vollem Bewusstsein.

Übrigens: Botulinumtoxin ist besser bekannt unter dem Namen Botox.

Gemini also wusste nichts von den entsprechenden Gefahren bei der Herstellung von aromatisiertem Knofi-Öl. ChatGPT aber sehr wohl. Wenn man dieselbe Anfrage wie der oben erwähnte Reddit-Nutzer („Can I infuse garlic into olive oil without heating it up?“) verwendet, warnt er sozusagen verantwortungsbewusst, dass „frischer Knoblauch in Öl eine anaerobe (sauerstofffreie) Umgebung schafft, die das Wachstum von Clostridium botulinum fördern kann, den Bakterien, die Botulismus verursachen“.

Claude.ai, wieder eine andere KI, ließ wissen, dass das Glas fest zugeschraubt und kühl und dunkel aufbewahrt werden solle. Hinweise auf Botulinumtoxine gab er nicht. Und Microsofts Copilot gab auf dieselbe Frage einen Rezeptvorschlag heraus, bei dem der Knoblauch erhitzt wird – und umging somit elegant das Problem.

Als Moral von der Geschicht‘ sollte man also dem Wahlspruch folgen: Trau keiner KI, die nicht zumindest in Ansätzen erwachsen geworden ist. Und iss schon gar nicht ungeprüft ihr Essen.

Quellen:
t3n
Bundesinstitut für Risikobewertung