Anhoren
Teilen
Prof. Dr. Christoph Dockweiler, Public-Health-Experte der Universität Siegen, mahnt in einem aktuellen Paper, dass generative KI Gesundheitsnarrative verschiebt und keiner es erkennt.
Der EU AI Act zieht die falschen Leitplanken. Zu dieser These kommt Prof. Dr. Christoph Dockweiler, Inhaber des Lehrstuhls für Digital Public Health an der Universität Siegen. In einem Viewpoint im European Journal of Public Health kritisiert er zum einen, dass die Europäische Union mit ihrer KI-Regulierung zwar Kliniken und die dort im Einsatz befindliche KI-basierte klinische Entscheidungsunterstützung als hochriskant einstuft und reguliere. Gleichzeitig werde das Informationsumfeld vor den Kliniken neu geschrieben, da immer mehr Menschen ChatGPT, Gemini oder Claude für medizinische Fragestellungen nutzen würden. Und dieser Aspekt werde in der aktuellen Regulierung nicht berücksichtigt.
Eine Umfrage des Digitalverbands Bitkom aus dem vergangenen Herbst zeigt, dass 73 Prozent der Menschen in Deutschland ihre Symptome im Netz recherchieren. 45 Prozent haben ihre Gesundheitsfragen auch schon einmal an einen KI-Chatbot gestellt. Und laut der Bitkom-Umfrage vertraut auch mehr als jeder Zweite den Antworten, die der KI-Chatbot bei Fragen zu Symptomen und Gesundheitsthemen liefert. Die Hälfte der Befragten gibt zudem an, mit den KI-Chatbots Symptome besser als bei der reinen Internetrecherche zu verstehen. Und 30 Prozent meinen, dass KI-Chatbots für sie ähnlich wichtig sind wie die Zweitmeinung eines Arztes.
KI verschiebt Gesundheitswissen
Genau hier setzt der zweite Kritikpunkt von Prof. Dockweiler an, der in der privaten KI-Nutzung zu Gesundheitsfragen eine Gefahr sieht. Denn die aktuelle Debatte über generative KI im Gesundheitswesen drehe sich fast ausschließlich um die Frage, ob die Antworten von ChatGPT, Gemini und Co. medizinisch korrekt seien. Das sei eine Verengung, die in die Irre führe. „Die aktuelle Debatte reduziert einen strukturellen Wandel des gesundheitlichen Informationsumfelds auf ein technisches Qualitätsproblem — und übersieht das Eigentliche.“
Das eigentliche Problem ist für Prof. Dockweiler die mangelnde Public-Health-Aufsicht: „Wenn Millionen Menschen KI-Systeme zu Symptomen, Prävention oder Therapie befragen, verschiebt sich, unter welchen Bedingungen Bevölkerungen Gesundheitswissen bilden, anzweifeln und revidieren. KI-Inhalte tragen keine Autorschaft, keine Interessenkonflikte, kein Peer Review; sie verschmelzen Evidenz, Näherung und plausibel klingende Vermutung zu einem flüssigen, personalisierten Narrativ, dessen Quellen sich weder benennen noch prüfen lassen.“
AI Divide bei Interpretationsfähigkeit
Für Prof. Dockweiler ergibt sich daraus eine neue Ungleichheit, ein AI Divide. Und zwar nicht, was den Zugang zu KI angeht, sondern bei der Fähigkeit, KI-generierte Gesundheitsnarrative zu erkennen, einzuordnen und zu hinterfragen. „Da fast die Hälfte der Bevölkerung in mehreren EU-Staaten über geringe Gesundheitskompetenz verfügt, ersetzt konversationelle KI für genau diese Gruppen institutionelle Information zunehmend, statt sie zu ergänzen. Es ist eine Lücke nicht im Zugang, sondern in der epistemischen Handlungsfähigkeit.“
In seinem Viewpoint fordert der Public-Health-Experte daher, dass Gesundheits-KI als relevante Informationsinfrastruktur anerkannt und mit Transparenzpflichten versehen werden müsse. Auch müssten Health-Literacy-Konzepte um Kompetenzen erweitert werden, die einen sicheren Umgang mit generativer KI ermöglichten. Und Public-Health-Institutionen müssten ermutigt werden, ihre eigene Präsenz um konversationelle Gesundheitskommunikation zu erweitern. So würde man das Feld nicht anderen überlassen, das eigene Engagement optimieren und insgesamt für informierte Entscheidungen sorgen.
„Die entscheidende Frage ist nicht, ob KI korrekt antwortet, sondern wer ihre Antworten noch hinterfragen kann. Genau dort entscheidet sich künftig gesundheitliche Chancengleichheit“, schließt Prof. Dockweiler ab.
