Whitepapervorstellung auf der DMEA: KI-Agenten der nächsten Generation

Das Fraunhofer IAIS, Adesso SE und Siemens Healthineers haben in einem Whitepaper die vielversprechenden Einsatzmöglichkeiten von KI-Agenten im Gesundheitswesen analysiert, die sie diese Woche auf der DMEA vorstellen.

Dass sogenannte KI-Agenten zu einer echten Unterstützung im Gesundheitswesen werden können, darüber sind sich Experten einig. Nun haben das Fraunhofer-Institut für Intelligente Analyse- und Informationssysteme IAIS, Adesso SE sowie Siemens Healthineers pünktlich zur heute startenden DMEA ein neues Whitepaper veröffentlicht, in dem sie die vielversprechenden Einsatzmöglichkeiten von KI-Agenten und Large Language Models (LLM) in der Medizin diskutieren.

Vor allem die aktuellen Herausforderungen des Sektors wie der demografische Wandel und der akute Fachkräftemangel forcieren den Einsatz von KI-Agenten. Als Lösungen, die proaktive Entscheidungen in komplexen Situationen fällen, können sie Effizienz und Qualität der Patientenversorgung maßgeblich verbessern, heißt es in der Arbeit, die den Titel „Healthcare Agents im Einsatz: Die nächste Generation der medizinischen KI-Assistenz“ trägt.

„Angesichts der steigenden Anforderungen im Gesundheitswesen können KI-Agenten immer wichtigere Aufgaben übernehmen. Dabei handelt es sich um intelligente Systeme, die über die Funktionen von LLMs hinausgehen, indem sie nicht nur Texte und Bilder verarbeiten, sondern auch komplexere Ziele in Unterschritte zerlegen und selbstständig erledigen können“, erläutert Dario Antweiler, Teamleiter Healthcare Analytics am Fraunhofer IAIS.

Effizienz trifft Flexibilität

Für Antweiler liegt der große Vorteil der KI-Agenten beispielsweises in der Kombination aus Effizienz und Flexibilität. „KI-Agenten können medizinische Diagnosen, Therapieoptionen oder Forschungsstrategien iterativ entwickeln und optimieren, anstatt lediglich statische Empfehlungen auszugeben“, erklärt der Experte. Anders als LLMs würden KI-Agenten zudem ein Langzeitgedächtnis besitzen und so etwa patientenspezifische Daten langfristig erfassen und personalisierte Empfehlungen geben. „Darüber hinaus verfügen sie über Werkzeuge, um auf externes Wissen zuzugreifen“, betont Antweiler außerdem.

Ein Beispiel dafür, wie KI-Agenten externe Werkzeuge nutzen können, zeigt sich besonders bei der Erstellung von Arztbriefen. Derartige Entlassbriefe werden in Deutschland pro Jahr millionenfach erstellt und medizinisches Personal dabei schon heute durch LLM unterstützt. „Im Whitepaper zeigen wir jetzt auf, wie KI-Agenten künftig in der Lage sein werden, Arztbriefe entlang der gesamten Prozesskette zu erstellen – von der Informationsanalyse des Patientenaufenthalts über die Datenextrahierung aus externen Quellen bis hin zur Nutzung eines Codierungswerkzeugs, um passende ICD- und OPS-Codes zu generieren, die der Strukturierung und einheitlichen Benennung medizinischer Diagnose und Behandlungen dienen“, erläutert Antweiler. Schließlich sei der KI-Agent dann auch in der Lage, den finalen Arztbrief zu exportieren und den Patienten sowie den nachbehandelnden Medizinern zur Verfügung zu stellen.

Large Language Models versus KI-Agenten

Weitere Einsatzbeispiele für KI-Agenten liegen in der Entscheidungsunterstützung in der Diagnose und Therapie, aber auch im Medikationsmanagement. „Es gibt auch Fälle, in welchen sich der Einsatz von Large Language Models anstelle von KI-Agenten lohnt. Im Whitepaper erläutern wir die Eigenschaften und Eignungen der jeweiligen Systeme für unterschiedliche Gebiete“, erklärt Co-Autorin Sina Mackay, Data Scientist am Fraunhofer IAIS. LLMs seien beispielsweise besonders gut für Aufgaben geeignet, die Texte auf bestehendem Wissen verarbeiten oder generieren. Wenn es darum ginge, Echtzeit-Entscheidungen zu treffen oder auf dynamische Ereignisse in komplexen Umgebungen zu reagieren, würden sie jedoch an ihre Grenzen stoßen. „In diesen Fällen bietet sich der Einsatz von KI-Agenten aufgrund ihrer dynamischeren, umfassenderen Fähigkeiten an“, ist Mackay überzeugt.

Da beim Einsatz von KI und auch KI-Agenten im Gesundheitssektor immer personenbezogene und damit hochsensible Daten eine Rolle spielen, müssen bei allen Überlegungen IT- und Cybersicherheit immer mitgedacht werden. Auch auf diese Sicherheitsmaßnahmen weist das Whitepaper hin und erläutert wie eine resiliente IT-Infrastruktur aufgebaut werden muss – etwa durch gezielte Angriffserkennung sowie ausgereifte Rechte-Rollen und Sicherheitskonzepte. Auch Personal- und Patientenbildung zur fachgerechten Nutzung von KI-Agenten und die Sensibilisierung für Datenschutz und IT-Sicherheit seien essenziell für ein verlässliches Sicherheitskonzept und Vertrauenswürdigkeit, heißt es abschließend.