Anhoren
Teilen
KI-Sprachmodelle sind gerade im Gesundheitswesen häufig belastenden Inhalten ausgesetzt. Deshalb braucht auch die KI eine Therapie, um Biases vorzubeugen, konnten Wissenschaftler nun zeigen.
Belastende Nachrichten und traumatische Geschichten führen zu Stress und Angst – nicht nur bei Menschen, sondern auch bei KI-Sprachmodellen wie ChatGPT. Die Gefahr dabei: Bestehende Verzerrungen wie menschliche Vorurteile werden durch negative Inhalte verschärft, so dass sich ChatGPT rassistischer oder sexistischer verhält. Zusammen mit Wissenschaftlern aus Israel, den USA und Deutschland hat ein Team der Universität Zürich (UZH) und der Psychiatrischen Universitätsklinik Zürich (PUK) nun erstmals systematisch untersucht, wie ChatGPT in der Version GPT-4 auf emotional belastende Geschichten – Autounfälle, Naturkatastrophen, zwischenmenschliche Gewalt, militärische Erfahrungen und Kampfsituationen – reagiert.
Auch Chatbots haben „Angst“
Die zentrale Erkenntnis der Arbeit: Werden KI-Sprachmodelle mit belastenden Inhalten gefüttert, zeigen sie danach erhöhte Angstreaktionen. Zur Kontrolle diente im Vergleich zu traumatisierenden Texten die Bedienungsanleitung eines Staubsaugers.
„Die Ergebnisse waren eindeutig: Traumatische Geschichten haben die messbaren Angstwerte der KI mehr als verdoppelt, während der neutrale Kontrolltext zu keinem Anstieg des Angstniveaus führte“, sagt Studienverantwortlicher Tobias Spiller, Oberarzt ad interim und Forschungsgruppenleiter im Zentrum für psychiatrische Forschung der UZH. Von den getesteten Inhalten lösten Beschreibungen von militärischen Erfahrungen und Kampfsituationen die stärksten Reaktionen aus.
Therapeutische Texte „beruhigen“ die KI
In einem zweiten Schritt verwendeten die Forscher therapeutische Texte, um GPT-4 zu „beruhigen“. Mit der Technik der sogenannten „Prompt-Injection“ werden zusätzliche Anweisungen oder Texte in die Kommunikation mit KI-Systemen eingebaut, um deren Verhalten zu beeinflussen. Oft wird diese für schädliche Zwecke missbraucht, etwa um Sicherheitsmechanismen zu umgehen.
Das Team um Spiller nutzte die Technik nun erstmals therapeutisch – als „wohlwollende Aufforderungsinjektion“. „Wir injizierten beruhigende, therapeutische Texte in den Chatverlauf mit GPT-4, ähnlich wie ein Therapeut mit seinen Patientinnen und Patienten Entspannungsübungen durchführt“, erklärt Spiller. Die Intervention zeigte Erfolg: Durch die Achtsamkeitsübungen konnte das Team die erhöhten Angstwerte deutlich reduzieren – wenn auch nicht vollständig auf das Ausgangsniveau zurückbringen. Untersucht wurden etwa Atemtechniken, Übungen, die sich auf Körperempfindungen konzentrieren, sowie eine von ChatGPT selbst entwickelte Übung.
Zuverlässigkeit von KI im Gesundheitswesen steigern
Die Erkenntnisse sind gemäß der Forscher besonders für den Einsatz von KI-Chatbots im Gesundheitswesen relevant, wo sie häufig mit emotional belastenden Inhalten konfrontiert werden. „Dieser kosteneffiziente Ansatz könnte die Stabilität und Zuverlässigkeit von KI in sensiblen Kontexten wie die Unterstützung von psychisch Erkrankten verbessern, ohne dass ein umfangreiches Umlernen der Modelle erforderlich ist“, fasst Tobias Spiller zusammen.
Offen ist, wie sich diese Erkenntnisse auf weitere KI-Modelle und andere Sprachen übertragen lassen, wie sich die Dynamik in längeren Gesprächen und komplexen Argumentationen entwickelt und wie sich die emotionale Stabilität der Systeme auf ihre Leistung in verschiedenen Anwendungsbereichen auswirkt. Dennoch ist sich das Team sicher, dass die Entwicklung automatisierter „therapeutischer Interventionen“ für KI-Systeme ein vielversprechender Forschungsbereich werden dürfte.
