KI-Diagnosefähigkeit und der Faktor Mensch

Es ist nicht immer die Technik, die (noch) nicht gut genug funktioniert, um präzise medizinische Diagnosen zu liefern, zeigt nun eine Studie der Julius-Maximilian-Universität Würzburg.

KI in der Medizin, für viele mittlerweile der berühmte No-Brainer. Gerade mit Blick auf Diagnostik wird die Technik als Unterstützungshilfe auch immer besser. Allerdings hat sie nach wie vor Schwachstellen, was aktuell besonders viele Studien offenlegen. Gerade hat die TU Berlin zeigen können, dass ChatGPT für eine valide Ersteinschätzung und damit gezielte Patientensteuerung innerhalb des Gesundheitswesens (noch) nicht geeignet ist. Nun legen Wissenschaftler der Julius-Maximilians-Universität Würzburg (JMU) nach. Konkret haben sich Prof. Wilfried Kunde, Inhaber des Lehrstuhls für Psychologie III, und sein wissenschaftlicher Mitarbeiter Moritz Reis angeguckt, wie Menschen im Dialog mit der Technik kommunizieren. Denn: Selbst die beste KI ist insbesondere in der medizinischen Diagnostik auf präzise Informationen angewiesen. Und die, so das Studienergebnis, stellen die Nutzenden nicht im vollen Umfang bereit.

An der in Nature Health veröffentlichten Publikation waren außerdem Wissenschaftlerinnen und Wissenschaftler der Charité – Universitätsmedizin Berlin, der University of Cambridge sowie des Helios Klinikums Emil von Behring und vom Vivantes Klinikum Neukölln in Berlin beteiligt.

Schlechtere Schilderungen für die KI

„Die 500 Studienteilnehmerinnen und -teilnehmer hatten die Aufgabe, simulierte Symptomberichte für zwei weit verbreitete Krankheitsbilder – ungewöhnliche Kopfschmerzen und Grippe – zu verfassen“, beschreibt Erstautor Moritz Reis das Studien-Design. Dabei wurden sie in dem Glauben gelassen, dass ihre Berichte entweder von einem KI-Chatbot oder einem menschlichen Arzt gelesen würden. Ziel war es, die Qualität dieser Berichte im Hinblick auf ihre Eignung für eine medizinische Dringlichkeitseinschätzung zu untersuchen.

Die zentrale Erkenntnis: Glaubten die Teilnehmenden, mit einer Künstlichen Intelligenz zu kommunizieren, verschlechterte sich ihre Schilderungen für eine medizinische Ersteinschätzung messbar im Vergleich zur Interaktion mit vermeintlichem ärztlichem Fachpersonal. Dieser Effekt war sogar bei jenen Teilnehmenden zu sehen, die zum Zeitpunkt der Befragung tatsächlich unter den entsprechenden Symptomen litten. Woran das Team die Verschlechterung festmachte, war die Detailtiefe der Berichte. Während die Beschreibungen gegenüber Fachkräften im Durchschnitt 255,6 Zeichen umfassten, waren es bei Chatbots lediglich 228,7 Zeichen.

28 Zeichen, große Auswirkung

Auch wenn ein Unterschied von 28 Zeichen nach wenig klingt, ist er nach Aussagen des Forschungsteams von Bedeutung und kann zur Folge haben, dass selbst hochleistungsfähige KI-Modelle am Ende falsche medizinische Ratschläge geben. Schließlich scheitern auch diese an der medizinischen Einordnung, wenn Patientinnen und Patienten nicht alle wesentlichen Informationen mitteilen. Der Erfolg digitaler Erstberatung hängt nämlich weniger von der Rechenleistung ab als von der menschlichen Bereitschaft zur detaillierten Schilderung.

Doch warum verhalten sich Menschen gegenüber Maschinen so zurückhaltend? Ein wesentlicher Grund ist vermutlich die sogenannte „Vernachlässigung der Einzigartigkeit“ (Uniqueness Neglect). „Viele Menschen nehmen an, dass eine KI die individuellen Besonderheiten ihrer persönlichen Situation nicht erfassen kann und stattdessen lediglich standardisierte Muster abgleicht“, erklärt Prof. Kunde.

Zusätzlich führen Skepsis gegenüber der Diagnosefähigkeit von Algorithmen sowie Datenschutzbedenken dazu, dass Angaben oft abgekürzt oder vage gehalten werden. Moritz Reis bringt die menschliche Komponente so auf den Punkt: „Wenn wir einer Maschine nicht zutrauen, unsere Einzigartigkeit zu verstehen, enthalten wir ihr unbewusst die Informationen vor, die sie für eine präzise Hilfe bräuchte.“ Dieser psychologische Filter sorge dafür, dass medizinisch relevante Details gar nicht erst im System ankommen und die Diagnosequalität sinkt.

Dialog mit der Maschine verbessern

Die Forschungsergebnisse zeigen nach Ansicht des Würzburger Teams deutlich, dass die technische Weiterentwicklung der KI allein nicht ausreicht. Eine mögliche Lösung sehen sie deshalb in einer klugen Gestaltung der Benutzeroberflächen.

Um die Qualität der Symptomberichte zu steigern, sollten Entwicklerinnen und Entwickler konkrete Beispiele für hochwertige Beschreibungen bereitstellen und die KI so programmieren, dass sie fehlende Details aktiv und gezielt nachfragt. Nur wenn Nutzende dazu ermutigt werden, reichhaltige Informationen zu liefern, können Fehlbehandlungen vermieden und das Gesundheitssystem effektiv entlastet werden.