Dr. ChatGPT – der Bot, dem die Mediziner misstrauen

Latente Frustration, chronisches Seufzen oder Mühe beim Verkneifen von Augenrollen: Solche Symptome können beim Medizinpersonal vermutlich schon mal auftreten, wenn es von Patientinnen oder Klienten zum x-ten Mal den Satz hört: «Ich habe das gegoogelt», oder: «Im Internet steht aber …» Leidtragend ist jedoch nicht das Fachpersonal, sondern die Bevölkerung. Denn das Problem an der vermeintlichen Selbstdiagnose per Suchmaschine ist: Sie kann krank machen. Das geht mitunter so weit, dass Ärztinnen und Ärzte inzwischen eine besondere Form der Hypochondrie behandeln. Von einer Cyberchondrie oder inoffiziell auch von Morbus Google spricht man, wenn die zwanghafte Onlinerecherche nach Diagnosen zu übermäs­siger Angst vor Gesundheitsproblemen führt und weitere psychische oder physische Symptome nach sich zieht. 

Doch nun tritt ein Herausforderer des Quacksalbers «Dr. Google» auf den Plan. Einer, der den Doktortitel zwar auch nicht verdient, aber immerhin die Fragen eines US-Medizin­examens gemeistert hat. ChatGPT kann auf Gesundheitsfragen nicht nur konziser antworten als die Suchmaschine. Der Chatbot von OpenAI hat zumindest teilweise die Kompetenz zur Erkennung seiner eigenen Inkompetenz. Wer willkürlich Symptome auflistet und nach einer Diagnose fragt, bekommt von der KI die Antwort, dass eine Diagnosestellung schwierig sei und man zu diesem Zweck besser eine Ärztin oder einen Arzt konsultieren sollte.

Besonders vielversprechend sind allerdings andere Einsatzmöglichkeiten. Dienste wie ChatGPT könnten das medizinische Fachpersonal in ihrem Alltag unterstützen, beispielsweise beim Verfassen von Arztbriefen oder auch zur Entscheidungsfindung bei der Entwicklung von Diagnosen und Behandlungen. 

Das Potenzial scheint gross zu sein, die Vorsicht jedoch auch. Bart de Witte, Experte für die digitale Transformation des Gesundheitswesens, warnt davor, dem Textgenerator von OpenAI im medizinischen Kontext zu naiv zu begegnen, wie das deutsche «Ärzteblatt» berichtet. Denn ChatGPT sei in doppelter Hinsicht eine Blackbox: Zum einen, weil die Entscheidungsfindung von Deep-Learning-Algorithmen oftmals nicht nachvollziehbar ist. Zum anderen, weil man im kommerziellen Code des Chatbots nicht von aussen beurteilen kann, welche Begrenzungen oder Verzerrungen OpenAI bewusst hineinprogrammiert. «So lange ChatGPT nicht offen ist, sollte man vermeiden, es in der Gesundheitsversorgung zu skalieren», sagt de Witte.

Es gibt also gute Gründe dafür, einem möglichen Einsatz von ChatGPT im Gesundheitswesen zunächst einmal mit einer gesunden Portion Skepsis zu begegnen. Skeptisch zu sein, bedeutet jedoch nicht, eine Sache abzulehnen, sondern sie zu hinterfragen. Ein wichtiger Unterschied, den man leider allzu oft verwischt – vielleicht sogar besonders im Gesundheitswesen.

Misstrauen gegenüber neuen Technologien sei Teil der medizinischen Kultur, sagt der Arzt und Stanford-Professor Robert Pearl gegenüber dem Fachportal «Medpage Today». Als historisches Beispiel für seine These erwähnt er das Quecksilberthermometer. Erfunden hat es im Jahre 1714 der Physiker Daniel Fahrenheit, auf den auch die in den USA gebräuchliche Temperaturskala zurückgeht. Als Fiebermessgerät stellte es damals zweifellos eine Innovation dar, die jedoch auf Widerstand stiess. Die Ärzteschaft bangte um ihre Deutungshoheit und stellte sich der Diagnosemethode durch Messung per Apparat in den Weg, wie das Magazin «Geo» berichtet. Dem technischen Fortschritt zum Trotz dauerte es gemäss Robert Pearl bis Mitte des 19. Jahrhunderts, bis das Gerät in der breiten klinischen Praxis Einzug hielt. Ein Umstand, den der Stanford-Professor bezüglich ChatGPT in der Medizin vermeiden will. «Wir können nicht 100 Jahre warten», sagt er. Und damit hat er Recht.

Abwarten aus Prinzip, Angst vor Statusverlust oder Widerstand gegen Veränderung: Solche Reaktionen auf weitreichende technologische Innovationen mögen nachvollziehbar sein. Doch hilfreich sind sie nicht. Gerade weil die Entwicklung von ChatGPT & Co. noch in ihren Anfängen steckt und man noch vieles daran verbessern muss, ist es für Gesundheitsprofis jetzt an der Zeit, auf Tuchfühlung mit der Technologie zu gehen. Vor allem deswegen, weil die generative KI die dringend nötige Chance bietet, Menschen im Gesundheitswesen zu entlasten.