Die Psychologie hinter ChatGPT und Co.

Chatbots gehören mittlerweile zum Alltag, aber Vertrauen wir ihnen auch? Dieser Frage ist ein Team der Fakultät für Psychologie der Universität Basel nun nachgegangen.

Es ist verlockend, Chatbots wie ChatGPT einfach all jene Fragen zu stellen, für deren Antworten man sonst selbst aktiv werden müsste. Doch Vertrauen wir den Chatbots auch und wovon hängt das entgegengebrachte Vertauen ab? Diesen Fragen sind Dr. Fanny Lalot und Anna-Marie Betram von der Fakultät für Psychologie der Universität Basel in ihrer aktuellen Studie nachgegangen. Dafür haben die beiden Wissenschaftlerinnen Testpersonen mit Beispielen von Konversationen zwischen Nutzenden und dem fiktiven Chatbot Conversea konfrontiert. Die Ergebnisse sind in der Fachzeitschrift Journal of Experimental Psychology: General erschienen.

Vertrauen ist individuell

Ob und wie sehr wir anderen Menschen vertrauen, hängt von unterschiedlichen Faktoren ab: Die eigene Persönlichkeit, das Verhalten des Gegenübers sowie die jeweilige Situation spielen eine Rolle. „Prägungen aus der Kindheit beeinflussen, wie sehr wir vertrauen können, aber es braucht auch eine gewisse Bereitschaft dazu, überhaupt vertrauen zu wollen“, sagt die Sozialpsychologin Fanny Lalot. Vertrauensfördernde Eigenschaften sind Integrität, Kompetenz und Wohlwollen.

Die neue Studie zeigt: Was in zwischenmenschlichen Beziehungen zum Tragen kommt, gilt auch für KI-Systeme. Insbesondere Kompetenz und Integrität sind wichtige Kriterien, warum Menschen einen KI-Chatbot als vertrauenswürdig wahrnehmen, Wohlwollen ist hingegen weniger wichtig, wenn die beiden anderen Dimensionen bedient werden. „Unsere Studie zeigt, dass die Befragten diese Eigenschaften der KI direkt zuschreiben, nicht dem Unternehmen dahinter. Sie nehmen die KI gewissermaßen als eigenständiges Wesen wahr“, führt Lalot weiter aus.

Persönliche Züge sind wichtig

Zudem gibt es Unterschiede zwischen personalisierten und unpersönlichen Chatbots. Spricht uns ein Chatbot beispielsweise mit Namen an und nimmt Bezug auf frühere Unterhaltungen, schätzten ihn die Studienteilnehmer als besonders wohlwollend und kompetent ein. Sie vermenschlichten den personalisierten Chatbot quasi. Das habe zwar die Bereitschaft gesteigert, das Tool zu nutzen und persönliche Informationen mit ihm zu teilen. Die Testpersonen gestanden dem personalisierten Chatbot dadurch jedoch nicht wesentlich mehr Integrität zu. Auch das Vertrauen insgesamt war nicht signifikant höher als in den unpersönlichen Chatbot, zeigt die Studie.

Integrität ist gemäß der Studie demnach wichtiger für die Vertrauenswürdigkeit als Wohlwollen. Es sei deshalb wichtig, die Technologie dahingehend zu entwickeln, dass Integrität an oberster Stelle steht. Dass personalisierte KI als wohlwollender, kompetenter und menschlicher wahrgenommen wird, sollten Designer ebenfalls berücksichtigen, um die ordnungsgemäße Verwendung der Tools zu gewährleisten.

Lernen, mit KI umzugehen

Fanny Lalot betont: „Wir machen mit unserer Studie keine Aussage darüber, ob Vertrauen in einen Chatbot gut oder schlecht ist.“ Die Wissenschaftlerin sieht KI-Chatbots als Werkzeug, mit dem man lernen müssee, umzugehen, ähnlich wie mit den Chancen und Risiken der sozialen Medien.

Aus den Studienergebnissen lassen sich aber einige Handlungsempfehlungen ableiten. „Wir projizieren mehr in KI-Systeme hinein, als tatsächlich vorhanden ist“, sagt Lalot. Umso wichtiger seien deshalb vertrauenswürdige KI-Systeme. Ein Chatbot sollte Menschen weder belügen, noch alles, was wir sagen, ohne Wenn und Aber gutheißen.

Ist ein KI-Chatbot zu unkritisch und bestätigt alle Aussagen eines Nutzers, fehlt der Realitätsabgleich und es besteht die Gefahr einer Echokammer, die im schlimmsten Fall dazu führt, dass sich jemand vom sozialen Umfeld isoliert.

Verrat durch die KI?

In einem nächsten Schritt gilt es aus Sicht der beiden Wissenschaftlerinnen, auch das Gegenteil zu untersuchen. Denn in zwischenmenschlichen Beziehungen hat ein Vertrauensbruch schwere Folgen für das künftige Miteinander. Ist das auch bei Chatbots denkbar? „Das ist eine spannende Frage. Um sie zu beantworten, bräuchte es weitere Forschung“, sagt Lalot. „Ich kann mir durchaus vorstellen, dass sich jemand betrogen fühlen könnte, wenn der Rat einer KI negative Konsequenzen hatte.“

Auf Basis ihrer Studienergebnisse mahnt Lalot zudem, dass es Richtlinien brauche, die die Entwicklerfirmen in die Pflicht nehmen. Eine KI könnte zum Beispiel aufzeigen, wie sie zu einem Ergebnis kommt, indem sie die verwendeten Quellen offenlegt, und sie könnte sagen, wenn sie etwas nicht weiß, anstatt etwas zu erfinden.