Studie belegt: „Dr. ChatGPT“ auf dem Vormarsch! Und die Folgen?

reinheimer systemloesungen Systemadministration auch für Arztpraxen in Hessen – mehr zur Studie

Viele Patientinnen und Patienten scheinen KI über Instanzen wie ChatGPT zunehmend in ihre gesundheitliche Beratung einzubeziehen, so eine Studie der Pronova BKK. 62 Prozent können sich sogar vorstellen, sich ausschließlich auf KI zu verlassen, statt eine echte ärztliche Diagnose einzuholen. Und fast jeder Dritte hat das den Befragungsergebnissen nach bereits getan.

Besonders Jüngere „verlassen“ sich in Gesundheitsfragen in großer Zahl auf die KI: „54 % der 18- bis 29-Jährigen haben die Diagnose von ChatGPT und Co. bereits dem Besuch in der Praxis vorgezogen.“ Via.

Ein aus unserer Sicht bedenklicher Befund der Umfrage: Wenn ärztlicher Rat und Angaben von künstlicher Intelligenz unterschiedlich ausfallen, „folgt etwa jede*r 4. der KI und ignoriert die Empfehlung der Ärzteschaft“.

Warum „bedenklich“? Dazu die Ärztin Dr. med. Anke Hurst: „KI kann veraltete, unvollständige und schlicht falsche Informationen liefern, denn sie arbeitet oft nicht mit geprüften Quellen und aktuellen Leitlinien.“

Weltweit wenden sich nach einem Bericht des Deutschen Ärzteblattes „mehr als 230 Millionen Menschen“ mit Gesundheitsfragen an den Chatbot. Die Redaktion befasste sich auch mit dem noch nicht verfügbaren Angebot von „ChatGPT Gesundheit“. Nutzende sollen in Zukunft „elektronische Patientenakten“ oder auch ihre „Gesundheits- und Wellness-Apps an ChatGPT anbinden können“. Das Ärzteblatt spricht auch heikle Fragen des europäischen und deutschen Datenschutzes an: „Da die Anwendung mit hochsensiblen Gesundheitsdaten wie dem Inhalt von Patientenakten arbeitet, dürfte sie als Hochrisikosystem eingestuft werden und entsprechend hohe Auflagen erhalten.“ Derzeit ist ChatGPT Gesundheit in Deutschland noch nicht verfügbar. Via.

Volker Nürnberg, Professor für Management im Gesundheitswesen an der Allensbach Hochschule, hat sich mit Chancen und Risiken von ChatGPT im Gesundheitswesen auseinandergesetzt. Zitat: „Sicherheitsbedenken im Zusammenhang mit der Verwendung von ChatGPT können auftreten, wenn Patient:innen dem Chatbot unter anderem vertrauliche Informationen zu chronischen Erkrankungen anvertrauen.“ Falls diese Daten nicht ausreichend gesichert würden, bestehe „das Risiko des Missbrauchs oder der unbefugten Weitergabe an Dritte“.