Anhoren
Teilen
Das Freiburger KI-Unternehmen Averbis hat ein Modul entwickelt, dass KI-generierte Arztbriefe auf „Hallucinations“ überprüft.
Wenn die KI den Arztbrief schreibt, ist das nicht nur praktisch, sondern eine echte Zeitersparnis. Aber sind alle Aussagen im Text auch tatsächlich über Informationen aus den Patientenakte belegbar? Darauf müssen sich Mediziner zwingend verlassen können und deshalb hat das Freiburger KI-Unternehmen Averbis nun den „Hallucination Check“ für die KI-Arztbriefschreibung entwickelt.
Die Anwendung zerlegt KI-generierte Arztbriefe in einzelne Aussagen und gleicht sie automatisiert mit den verfügbaren Informationen in der Patientenakte ab. Passagen, für die sich kein nachvollziehbarer Beleg finden lässt, werden markiert. Das Modul kann zudem auf Dokumentationslücken hinweisen.
„Unsere Vision ist, dass Ärztinnen und Ärzte mit KI auf Augenhöhe arbeiten. Die KI formuliert, verweist auf ihre Quellen und macht Unsicherheiten sichtbar. Die Ärztin oder der Arzt behält dabei die medizinische Hoheit. So kann KI die Ärzteschaft im Alltag unterstützen und ihr Zeit für das geben, was keine KI übernehmen kann: die medizinische Behandlung”, sagt Patrick Oestringer, CEO von Averbis.
Fehler auf breiter Basis erkannt
In einem internen Test untersuchte Averbis zwölf Arztbriefe mit insgesamt 694 einzelnen Aussagen. In die Dokumente wurden gezielt 94 Fehler eingebracht. Geschulte Mitarbeiter von Averbis bewerteten anschließend, ob das Modul die Abweichungen erkannte. Nach Angaben des Unternehmens identifizierte „Hallucination Check” rund 98 Prozent der eingefügten Fehler.
Untersucht wurden verschiedene Fehlerklassen, die für die medizinische Dokumentation relevant sind, wie etwa die zeitliche Konsistenz bei Behandlungsergebnissen. Dafür wurde ein falsches Operationsdatum eingefügt. Aber auch falsche oder verfälschte Diagnosen wurden ebenso überprüft, wie klinisch unplausible oder manipulierte Laborveränderungen. Auch fehlerhafte Angaben zu Wirkstoffen, Dosierungen oder Einnahmeschemata erkannte der „Hallucination Check“ ebenso wie Widersprüche zwischen objektivem Befund und dokumentiertem Verlauf. Und dann natürlich noch ein Klassiker: Kontextfehler in klinischen Kerndaten, beispielsweise eine Seitenverwechslung vom rechten zum linken Handgelenk
Bei den verbleibenden rund zwei Prozent handelte es sich nach Angaben von Averbis um medizinisch nicht relevante Abweichungen. Dazu zählten beispielsweise Änderungen des Wortlauts in nicht kritischen Anamnesedetails.
Bedarf an KI-Überprüfungen wächst
Der Bedarf an solchen Prüfmechanismen wächst mit dem Einsatz generativer KI in der medizinischen Dokumentation, ist man bei Averbis überzeugt. In einer aktuellen Befragung von Bitkom und Hartmannbund gaben bereits 18 Prozent der befragten Klinikärztinnen und -ärzte an, dass KI in ihrer Einrichtung eingesetzt wird. Eine kürzlich erschienene Umfrage von Doximity unter 3.151 Ärztinnen und Ärzten in den USA zeigt zudem, dass sprachbasierte Dokumentationstools inzwischen zu den häufigsten klinischen KI-Anwendungen gehören: 29 Prozent der Befragten nutzten sie schon Ende des Jahres 2025. Gleichzeitig nannten 71 Prozent die Genauigkeit und Zuverlässigkeit KI-generierter Inhalte als größte Sorge. Eine 2025 veröffentlichte Studie in npj Digital Medicine zu KI-generierten klinischen Notizen weist zudem 1,47 Prozent Halluzinationen und 3,45 Prozent Auslassungen nach. Die Ergebnisse zeigen: Mit der automatisierten Erstellung klinischer Texte wird auch die systematische Prüfung ihrer Inhalte zu einer eigenen Aufgabe.
