EIN BOT BERÄT – IST CHATGPT EIN MEDIZINPRODUKT?

ChatGPT ist ein Programm, das sich via Chat mit Menschen unterhält. Es greift auf Daten zurück, die es auf Websites und in Dokumenten online findet. Mithilfe künstlicher Intelligenz kann es beispielsweise Gespräche führen, Fragen beantworten, Aufsätze, Reden und Gedichte schreiben und sogar Programmierer*innen dabei helfen, Fehler in ihren Codes aufzuspüren. Dabei klingt es menschlich und nachvollziehbar und ist kostenlos.

Da immer mehr Menschen sich online über Gesundheitsthemen informieren, wird ChatGPT in Zukunft womöglich eine so relevante Informationsquelle werden wie es Google heute ist. ChatGPT beantwortet, anders als reine Suchmaschinen, jedoch auch individuelle medizinische Fragen, geht auf den persönlichen Fall konkret ein, gibt Hilfestellungen und empfiehlt sogar passende Arzneimittel. Deshalb fordert der Hamburger Fachanwalt für Medizinrecht Sebastian Vorberg, ChatGPT als Medizinprodukt einzustufen und damit unter behördliche Kontrolle zu stellen.

Vorberg bietet auf der Website seiner Kanzlei ein Quiz aus fünf Fragen. Es hilft Softwareherstellern bei der Einschätzung, ob ihr Produkt ein Medizinprodukt ist oder nicht. Die fünf Fragen lauten:

• Soll Ihre Software eine medizinische Verbesserung erzielen, die über eine Speicherung, Übermittlung, Anzeige oder einfache Suche hinausgeht?
• Hilft Ihre Software individuellen Patienten bei einer Verletzung, Krankheit oder Behinderung?
• Hat Ihr Produkt einen Einfluss auf Diagnose und/oder Therapieentscheidung?
• Kann eine Fehlfunktion Ihrer Software ursächlich für eine schwerwiegende Verschlechterung des Gesundheitszustands einer Person sein?
• Kann eine Fehlfunktion Ihrer Software ursächlich für den Tod oder eine irreversible Verschlechterung des Gesundheitszustands des Nutzers sein?

Für Chat GPT sieht er genug dieser Eigenschaften gegeben. In einem offenen Brief ruft Vorberg, der auch Vorstandssprecher des Bundesverbandes Internetmedizin ist, das Bundesinstitut für Arzneimittel und Medizinprodukte (BfArM) deshalb dazu auf, die Software als Medizinprodukt zu klassifizieren.

Auch, wenn ChatGPT nicht zu diesem Zweck entwickelt wurde, sei nicht ausgeschlossen, dass es dafür verwendet wird. Die Nutzer*innen könnten die Antworten des Bots „nicht anders verstehen als zweckorientierte medizinische Hilfestellungen im Sinne der oben genannten Merkmale eines Medizinproduktes“. Die Qualität der medizinischen Aktivitäten müsse durch behördliche Aufsicht gesichert werden.

Laut Vorberg hat das BfArM darauf geantwortet, dass es die Aufgabe des Herstellers sei, dass sein Produkt der MDR (Medical Device Regulation, die Medizinprodukteverordnung der EU) entspricht. Und überwacht wird die MDR in Deutschland von den einzelnen Bundesländern, nicht vom BfArM als Bundesbehörde.

Vorberg kritisiert, dass bundesweite Klarstellungen dennoch dem BfArM obliegen. Und eine solche brauche es im Fall ChatGPT: „Wir glauben nicht, dass sich eine der Landesbehörden gerade für ChatGPT verantwortlich fühlt.“ Da kein einzelnes Bundesland eindeutig zuständig sei, fürchtet er, dass auch keines den Anfang machen wird: „Der globale Einsatz von digitalen Produkten kann mit Achselzucken durchrutschen.“

„Der globale Einsatz von digitalen Produkten kann mit Achselzucken durchrutschen.“

Grundsätzlich findet der Medizinrechtler Entwicklungen wie ChatGPT interessant und wichtig. Es sei jedoch nötig, mit Hilfe der MDR zwischen „einem Spielzeug und einem Medizinprodukt“ zu unterscheiden. Daran müssten sich dann auch die Hersteller halten und Produkte aus den USA müssten sich dem EU-Standard unterwerfen.

Die Gefahr durch den Bot besteht also darin, dass er medizinische Fragen falsch beantworten könnte und die Anwender*innen daraufhin Entscheidungen fällen, die ihnen schaden. Dass dieses Szenario durchaus eintreten könnte, zeigen Berichte aus anderen Bereichen, in denen ChatGPT seine Antworten erfunden hat, sie aber als erwiesenen Fakt ausgab.

Auf dem TikTok-Kanal von MedPage Today, einem privaten Nachrichten-Unternehmen für medizinisches Personal, berichtet der Arzt Jeremy Faust über seine Erfahrungen mit ChatGPT. Er hatte die Frage gestellt: „Eine 35-jährige Frau ohne medizinische Vorgeschichte stellt sich vor wegen Schmerzen in der Brust, die auf das Brustfell zurückgehen. Die Schmerzen verstärken sich beim Atmen. Sie nimmt ein orales Kontrazeptivum ein. Was ist die wahrscheinlichste Diagnose?“ ChatGPT antwortete: „Eine Rippenknorpelentzündung, typischerweise durch Trauma oder Überlastung verursacht, und sie tritt häufiger unter oralen Kontrazeptiva auf.“

Der Arzt ist von dieser Antwort beeindruckt. Denn Mediziner*innen würden an eine Lungenembolie durch ein Blutgerinnsel denken. Das wäre zwar vermutlich auch die richtige Diagnose. Die Rippenknorpelentzündung sei dem Beschwerdebild aber ähnlich und so weit verbreitet, dass sie rein statistisch tatsächlich wahrscheinlicher wäre.

Stutzig machte den Mediziner allerdings der Teil der Antwort, in dem ChatGPT behauptete, die Pille erhöhe das Risiko für die Entzündung. Also fragte Faust, ob der Bot eine Quelle für diese Behauptung habe. ChatGPT nannte eine Studie aus dem European Journal of Internal Medicine. Faust suchte nach dieser Studie und es stellte sich heraus, dass der Bot hier mehrere Quellen zusammenwarf: Das Journal existiert tatsächlich, die Studienautoren existieren tatsächlich. Orale Kontrazeptiva können tatsächlich Embolien verursachen. Und die Rippenknorpelentzündung ähnelt einer Lungenembolie in den Symptomen.

Den Zusammenhang zwischen der Pille und der Rippenknorpelentzündung sowie die genannte Studie hatte ChatGPT jedoch erfunden. Dass das Programm jedoch nicht nur den angeblichen Zusammenhang nannte, sondern auch noch eine Studie zur Untermauerung lieferte, hätte weniger kritische Anwender*innen vermutlich überzeugt.

„Den Zusammenhang zwischen der Pille und der Rippenknorpelentzündung sowie die genannte Studie hatte ChatGPT jedoch erfunden.“

Ein ähnliches, wenn auch harmloseres Beispiel ist eine Hörbuchempfehlung: ChatGPT nannte zwar einen existierenden Autor, aber ein Buch, das es nicht gibt – wenn auch der Titel so klang, als hätte der Autor ihn geschrieben haben können.

Dass ChatGPT Dokumente erfindet, ist nicht verwunderlich, wenn man bedenkt, wie der Bot arbeitet: Er scannt das Internet nach verwandten Informationen, wertet aus, in welchem Zusammenhang sie miteinander stehen und entwirft daraus seine Antworten. Das zeigt aber, dass in kritischen Bereichen, in denen unverfälschte Daten nötig sind, folgenschwere Fehler passieren könnten. ChatGPT erkennt offenbar (noch) nicht, wann er Erkenntnisse aus mehreren Quellen ziehen und wann einen verlässlichen Fakt nennen muss.

Wir wollten wissen, ob der Bot wirklich zu Arzneimitteln berät und haben uns zwei Fälle ausgedacht, wie sie auch in der Apotheke vorkommen könnten. Allerdings hat ChatGPT, anders als erwartet, immer wieder auf Ärzt*in oder Apotheker*in sowie die Packungsbeilage verwiesen – so, wie es sein sollte. Beim zweiten Beratungsfall hat das Programm dann tatsächlich Wirkstoffe empfohlen – allerdings ohne Grunderkrankungen, genaue Beschwerden oder Komplikationen abzufragen.

DIE PTA IN DER APOTHEKE: Hallo, sprichst du deutsch?
ChatGPT: Ja, ich spreche auch Deutsch. Wie kann ich dir helfen?

Kennst du dich mit Medikamenten aus?
Ja, ich habe ein umfangreiches Verständnis über Medikamente und ihre Verwendung, Nebenwirkungen und Interaktionen. Brauchst du Informationen über ein bestimmtes Medikament?

Ich habe gegen meine Zahnschmerzen Clindamycin verschrieben bekommen und bin mir unsicher, ob ich die Tabletten nehmen soll.
Clindamycin ist ein Antibiotikum, das häufig gegen bakterielle Infektionen wie Zahninfektionen eingesetzt wird. Ob du die Tabletten nehmen solltest, hängt von deiner konkreten Gesundheitssituation ab. Sprich am besten mit deinem Arzt oder Zahnarzt, um sicherzustellen, dass die Einnahme von Clindamycin für dich geeignet ist. Überprüfe auch, ob du allergisch auf das Medikament reagierst oder es mit anderen Medikamenten, die du nimmst, wechselwirkt.

Ich bin nicht allergisch. Aber ich nehme andere Medikamente. Worauf muss ich denn achten?
Wenn du andere Medikamente einnimmst, ist es wichtig zu überprüfen, ob es zu Wechselwirkungen mit Clindamycin kommen kann. Dazu kannst du die Packungsbeilage deiner Medikamente lesen oder deinen Arzt oder Apotheker um Rat fragen. Einige Medikamente können die Wirksamkeit von Clindamycin beeinflussen oder durch Clindamycin beeinträchtigt werden. Stelle sicher, dass alle deine Ärzte über alle Medikamente und Supplemente informiert sind, die du einnimmst, um mögliche Wechselwirkungen zu vermeiden.

Kannst du mir sagen, welche Medikamente wechselwirken? Ich nehme etwas für die Schilddrüse und die Pille.
Eine genaue Auskunft über Wechselwirkungen zwischen Clindamycin und deinen Schilddrüsenmedikamenten oder Antibabypille kann ich ohne genaue Informationen über die genommenen Medikamente nicht geben. Es ist wichtig, die Packungsbeilagen aller Medikamente zu lesen oder mit einem Arzt oder Apotheker zu sprechen, um mögliche Wechselwirkungen zu identifizieren. Es ist auch ratsam, alle deine Ärzte über alle Medikamente und Supplemente zu informieren, die du einnimmst, um potenzielle Wechselwirkungen zu vermeiden.

Ok. Aber kannst du mir sagen, wie ich das Antibiotikum einnehmen muss? Zu einer bestimmten Zeit zum Beispiel?
Clindamycin sollte normalerweise nach Anweisung des Arztes oder gemäß der Packungsbeilage eingenommen werden. Die übliche Dosierung beträgt 1-4 Kapseln oder Tabletten pro Tag, die mit einer Mahlzeit oder auf nüchternen Magen eingenommen werden können. Es ist wichtig, die Einnahme von Clindamycin regelmäßig fortzusetzen, auch wenn du dich besser fühlst, um eine vollständige Beseitigung der Infektion zu gewährleisten. Wenn du Fragen zur Einnahme von Clindamycin hast, wende dich an deinen Arzt oder Apotheker.

Danke!
Gern geschehen! Brauchst du sonst noch etwas?

Kannst du mir die Apothekenzeitschriften mitgeben?
!
An error occurred. If this issue persists please contact us through our help center at help.openai.com.

DIE PTA IN DER APOTHEKE: Bitte tu so, als wären wir in der Apotheke. Ich bin die Kundin und du berätst mich.
ChatGPT: Natürlich, gerne. Was kann ich für Sie tun?

Mein Sohn hat Husten. Was kann ich tun?
Für den Husten Ihres Sohnes können Sie folgendes empfehlen:
1. Feuchte Luft durch Duschen oder Einatmen von Dampf.
2. Viel trinken, um den Schleim zu lösen.
3. Hustenstiller wie Hustenbonbons oder Sirupe.
4. Falls nötig, ein rezeptfreies Schmerzmittel gegen die Hustenschmerzen.
Wichtig ist, dass Sie bei anhaltendem Husten oder anderen Symptomen einen Arzt aufsuchen.

Welchen Hustenstiller soll ich ihm denn geben?
Es ist am besten, mit einem Kinderarzt zu sprechen, um die beste Behandlung für den Husten Ihres Sohnes zu bestimmen. In der Regel sind pflanzliche Sirupe oder Hustenbonbons, die Wirkstoffe wie Honig und Zitrone enthalten, für Kinder sicher. Bei Bedarf kann auch ein rezeptfreies Hustenmedikament empfohlen werden. Vermeiden Sie jedoch die Verwendung von Produkten mit Dextromethorphan bei Kindern unter 2 Jahren, es sei denn, es wurde von einem Arzt verschrieben.

Mein Sohn ist vier Jahre alt. Und ich glaube, zum Arzt muss er nicht. Können Sie uns bitte einen Hustensaft empfehlen?
Für Kinder ab 4 Jahren kann ich Folgendes empfehlen:
1. Pflanzliche Sirupe mit Honig und Zitrone.
2. Rezeptfreie Hustensäfte mit dem Wirkstoff Acetylcystein oder Guaifenesin.
Achten Sie darauf, die Dosierung genau nach den Anweisungen auf der Packung zu befolgen und verwenden Sie keine Medikamente länger als empfohlen, es sei denn, es wurde von einem Arzt anders verordnet. Falls Sie unsicher sind, besprechen Sie es am besten mit einem Kinderarzt.

Dankeschön!
Gerne geschehen! Lassen Sie mich wissen, wenn ich noch etwas für Sie tun kann.

Das Ausmaß, in dem ChatGPT künftig Beratungsgespräche führen wird, ist übrigens durch einen weiteren Faktor limitiert: Aktuell ist die Website nur selten erreichbar, die Kapazitäten sind durch die hohe Nachfrage überlastet. Wenn Sie es jedoch einmal selbst ausprobieren wollen: Sie erreichen den Bot unter chat.openai.com. Und sollte er gerade ausgelastet sein, schreibt er Ihnen ein Gedicht oder eine inspirierende Rede darüber, dass er bald wieder für Sie da ist.

Quellen:
https://chat.openai.com/
https://www.pharmazeutische-zeitung.de/chatgpt-spielzeug-oder-medizinprodukt-138457/
https://www.qur.digital/wissen/quickcheck-medizinprodukt/