Anhoren
Teilen
Patienten in der Notaufnahme schneller priorisieren – ein interdisziplinäres Projektteam erforscht ab heute, ob der privatsphäreschonende Einsatz großer Sprachmodelle im Gesundheitswesen dazu beitragen kann.
Illumination heißt das Verbundprojekt, das technische, rechtliche, mensch-zentrierte und medizinische Perspektiven zusammenfasst, um eine Anwendung für den klinischen Bereich zu entwickeln, die medizinisches Personal dabei unterstützen soll, Patienten in der Notaufnahme schneller zu priorisieren. 1,7 Millionen Euro über drei Jahre gibt es dafür vom Bundesministerium für Bildung und Forschung. Unter der Leitung des CISPA Helmholtz-Zentrums für Informationssicherheit kommen die Verbundpartner heute an der Charité in Berlin für den Projektstart zusammen.
Die Idee hinter Ilumination: Medizinische Versorgung erfordert umfangreiche Prozesse zur Sprach- und Textverarbeitung. Patientendaten werden erfasst, Symptome aufgenommen, Krankheitsgeschichten erfragt und Beschwerden eingeordnet. Bisher musste all das und mehr von medizinischem Personal sogar unter Zeitdruck dokumentiert und ausgewertet werden. Große Sprachmodelle, oder Large Language Models (LLM), sind theoretisch schon jetzt in der Lage, diese Aufgaben weitaus effizienter als Menschen ausführen. In der Praxis birgt das jedoch beträchtliche Risiken für den Datenschutz und die Privatsphäre. Um sensible Patientendaten zuverlässig zu schützen und gleichzeitig die Vorteile von LLMs für die medizinische Versorgung zu nutzen, werden im Rahmen von Illumination gesetzeskonforme Privatsphäremethoden für LLM-basierte Anwendungen entwickelt.
Vorteile bei der Vortriage
Diese privatsphärefreundliche LLM-basierte Anwendung soll dann das medizinische Personal bei der Vortriage von Patienten in der Notaufnahme unterstützt. Über interaktive Chats sollen Patienten ihre Beschwerden mit dem LLM teilen können, welche die Symptome dann auswerten und eine Priorisierung der Patienten vorschlagen. Aufbauend auf dieser Vorarbeit ermittelt das medizinische Personal zusätzliche Vitalparameter und trifft eine Entscheidung über die weitere Behandlung. Franziska Boenisch, Projektkoordinatorin von Illumination und leitende Wissenschaftlerin am CISPA, erläutert die Zielsetzung des Projekts: „Mithilfe von LLMs wollen wir Ärztinnen und Ärzte im zeitkritischen Umfeld der Notaufnahmen entlasten. Aufgrund der Privatsphärerisiken war der Einsatz von LLMs in der Vortriage bisher noch nicht möglich.“
Vorhersagequalität mit Privatsphärefreundlichkeit verbinden
Große Sprachmodelle können in spezifischen Kontexten nur dann qualitativ hochwertige Vorhersagen liefern, wenn sie für das jeweilige Einsatzgebiet gezielt trainiert worden sind. Für den Einsatz in der Notaufnahme muss das Projektteam seine Anwendung also mit realen Patientendaten aus vorangegangenen Triagevorgängen füttern. Damit diese sensiblen Daten weder an die Betreiber der LLMs noch an die späteren Anwender leaken können, entwickelt das Projektteam Privatsphäremethoden auf Basis der Differential Privacy. Franziska Boenisch erklärt: „Differential Privacy ist ein mathematischer Framework, der garantieren kann, dass die Daten von Individuen auch privat bleiben. Das heißt, dass das LLM zwar aus der Population lernen kann, also aus der Summe aller eingegebenen Trainingsdaten, aber nicht aus den individuellen Daten eines einzelnen Patienten. Umgekehrt wird auch garantiert, dass kein Individuum einen zu großen Einfluss auf das System und seine Vorhersagen hat.“
Um eine ganzheitliche Sicht auf den Einsatz großer Sprachmodelle im medizinischen Bereich abzubilden, bringt Illumination die Charité – Universitätsmedizin Berlin, die Universität Heidelberg, die Freie Universität Berlin (FU), und das Berliner Startup algonaut unter der Leitung des CISPA zusammen. Die interdisziplinäre Zusammensetzung des Projektteams vereint Expertisen und Perspektiven aus Medizin, Rechtswissenschaft, Human-Centered Computing, LLM-basierter Prototypentwicklung und maschinellem Lernen.
