Studie: Im Umgang mit KI wird der Faktor Mensch zum Problem

Zu viel Vertrauen oder absolut kein Vertrauen – eine aktuelle Studie der Universität Hohenheim zeigt, dass Menschen den Nutzen von KI entweder über- oder unterschätzen.

Künstliche Intelligenz kann mittlerweile wirklich viel – und das zum Teil besser als der Mensch. Beispiel Bilderkennung in der Medizin: Hier kann die KI etwa Tumore mittlerweile schneller und zuverlässiger erkennen als ausgebildetes Fachpersonal. Und doch ist eben diese Fachpersonal übermäßig skeptisch und vertraut der KI noch nicht wirklich, zeigt eine aktuelle Studie der Universität Hohenheim in Stuttgart. Ganz anders sieht das im persönlichen Kontext aus, konnte das Team um Wirtschaftsethiker Prof. Dr. Matthias Uhl im Rahmen der Erhebung zeigen. Als Berater für persönliche Lebensfragen wird der KI dann wiederum ein übermäßiges Vertrauen geschenkt. Heißt konkret: Es sind die Menschen, die im Umgang mit der KI geschult werden müssen, damit sie ihr technologisches Potenzial entfalten kann.

„Es ist die fehlende Warnehmung, wie KI Menschen beeinflusst, die problematisch ist“, kommentiert Prof. Uhl die aktuellen Forschungsergebnisse. Deshalb bestehe die zentrale Herausforderung darin, Strategien zu finden, mit denen Menschen KI bewusst und reflektiert einsetzen und dabei die Verantwortung für ihre eigene Entscheidung behalten.

Fachpersonal neigt zu überhöhter Skepsis

Wo im Privaten zu leichtfertig vertraut wird, überwiegt im professionellen Umgang die Skepsis gegenüber der KI, weiß Prof. Uhl: „Fachleute wie beispielsweise medizinisches Personal, sind von ihren eigenen Fähigkeiten oft sehr überzeugt und begegnen dem Einsatz von KI im Berufsalltag eher mit Selbstüberschätzung und KI-Skepsis – was ebenfalls nachteilige Folgen haben kann.“ Denn diese Skepsis kann riskant sein. Wenn es etwa darum geht, Röntgenbilder, MRTs oder andere medizinische Bilder zu beurteilen, ist die KI inzwischen meist besser als jeder Mensch. So kann sie Medizinerinnen und Mediziner bei Diagnosen unterstützen. Richtig eingesetzt verbessere die KI deshalb die Qualität medizinischer Entscheidungen, sagt Wirtschaftsethiker Uhl. Und: Das Vertrauensproblem ist nicht auf das Feld der Medizin beschränkt. Prof. Dr. Uhl erklärt: „Je stärker sich jemand als fachlich überlegen einschätzt, desto eher werden Empfehlungen von KI-Modellen ignoriert.“

KI-Nutzung muss gestaltet werden

Worfür die Wissenschaftler aus Stuttgart nun plädieren: KI müsse als Entscheidungshilfe verstanden und eingesetzt werden. Das sei der Lösungsansatz sowohl für übermäßiges als auch für zu geringes Vertrauen in die Technologie. Es brauche eine bewusste und reflektierte Nutzung. Dabei ist entscheidend, dass die Verantwortung weiterhin der Mensch trägt. Prof. Uhl betont: „Die Technik muss dafür so gestaltet sein, dass sie auch genau das leistet, wofür sie entwickelt wurde.“

Hierfür arbeitet der Wirtschaftsethiker als Teil eines Teams mit Kognitionswissenschaftlerinnen und Informatikerinnen des Bayerischen Forschungsinstitut für Digitale Transformation (bidt) im Projekt „Ethische Implikation hybrider Teams aus Mensch und KI-System“ (Ethyde) zusammen. Derzeit verfolgen die Forscherinnen und Forscher im Projekt noch verschiedene Lösungsansätze.

„Ein Ansatz ist die sogenannte Explainable-AI-Methode. Dabei muss das System möglichst transparent machen, warum es beispielsweise die medizinischen Aufnahmen als unauffällig ansieht oder eine Krankheit diagnostiziert“, erklärt Dr. Dr. Sebastian Krügel, der als Postdoc im Projekt arbeitet. Das kann zum Beispiel dadurch geschehen, dass die KI die Bereiche eines Bildes einfärbt, die für ihre Diagnose ausschlaggebend waren. Eine weitere Möglichkeit sei es, sogenannte Unsicherheitsmaße mitzuliefern, ergänzt Anja Bodenschatz, die als Doktorandin ebenfalls im Projekt mitarbeitet: „Hier liefert die KI eine Einschätzung darüber, wie sicher sie sich bei einer Antwort ist.“ Beide Ansätze steigern das Vertrauen in die KI-Antwort.

Praxistest soll Prototyp für Medizin-KI entwickeln

Die Arbeitsgruppe wählte dabei einen ungewöhnlichen Weg, um die laufenden Entwicklungen zu testen. „Das Problem, dass sich Personen überschätzen, beschränkt sich schließlich nicht auf Ärzte. Deswegen haben wir einen Test gesucht, den wir bei einem breiten Bevölkerungsspektrum anwenden können“, erklärt Postdoc Krügel.

Statt medizinische Bilder bekommen Testpersonen nur Katzenbilder zu sehen. Die Aufgabe ist, die Bilder in drei Kategorien einzuteilen: Hauskatzen, Wildkatzen und Großkatzen. Ähnlich wie bei der medizinischen Bilddiagnose komme es auch hier in den Grenzfällen zu den meisten Fehlern, sagt Krugel: „Kaum eine Testperson widerspricht der KI, wenn sie eine Hauskatze von einem Tiger unterscheidet. Die Meinungsverschiedenheiten treten dann auf, wenn es gilt, zwischen großer Hauskatze und Wildkatze zu unterscheiden oder zwischen Wildkatze und einem jungen Puma.“

Sobald das Projekt die KI so angepasst hat, dass Mensch und Maschine harmonieren, will das Team diese Technik mit medizinischen Bildern und Fachpersonal auf Medizinkongressen testen. „Bis Ende 2027 wollen wir die ersten getesteten Prototypen vorstellen können“, erklärt Prof. Dr. Uhl das ambitionierte Ziel.