Anhoren
Teilen
Eine Studie der Universität Hohenheim zeigt: Wird Künstliche Intelligenz von sich umweltfreundlich verhaltenden Menschen trainiert, sind auch die Entscheidungen der KI eher Gemeinwohl-orientiert.
Menschen wünschen sich von Künstlicher Intelligenz im Idealfall, dass sie neutrale und von persönlichen Meinungen unbeeinflusste Entscheidungen trifft. Dass in Wirklichkeit jedoch die Meinung derjenigen, die eine KI trainieren, großen Einfluss auf die Entscheidungsfindung hat, ist schon länger bekannt. Nun zeigt eine aktuelle Studie der Universität Hohenheim wie groß die Vorurteile der KI wirklich sind – und zwar anhand des Spamfilter-Algorithmus: Werden diese Algorithmen von Menschen trainiert, die sich im Alltag eher umweltbewusst verhalten, sortieren sie beispielsweise Spendenaufrufe und andere gute gemeinte E-Mail seltener aus.
Auch Studienleiter Prof. Dr. Siegmar Otto vom Fachbereich Nachhaltige Entwicklung und Wandel der Universität Hohenheim unterstreicht, dass KI-Systeme häufig so gar nicht neutral arbeiten: „KI ist voreingenommen und reproduzieren Stereotype.“ Und häufig liegt das eben schon daran, dass die Trainingsdaten dieser Algorithmen die Welt nicht vollständig neutral abbilden, sondern subjektive Verzerrungen aufweisen.
Nach Lösungen gesucht
Es ist also entscheidend, wer die KI mit welchen Daten trainiert. Auch deshalb haben sich der Psychologe Otto und sein Team auf die Suchen nach Lösungen gemacht. Doktorandin Sarah Zabel unterstreicht: „In unserer Forschung wollen wir das Problem nicht nur benennen, sondern stellten uns die Frage, wie wir zu einer Lösung beitragen können. Sprich: ob es möglich ist, den Algorithmen erstrebenswerte Eigenschaften anzutrainieren.“
Deshalb simulierte das Team für die Online-Studie ein KI-System, das intelligente Spamfilter entwickeln sollte, und ließ es von 750 Probanden trainierten, die einen repräsentativen Querschnitt deutscher Internetnutzer widerspiegelten. Zum Hintergrund erläutert Zabel:
„Spamfilter sind ein guter Gegenstand für solche Forschungsfragen, weil sie eine einfache Aufgabe haben: Sie kategorisieren E-Mails. Aber auch diese Systeme werden zunächst von Menschen trainiert, die entscheiden welche Nachrichten als Spam gelten.“
Die Studienteilnehmer erhielten deshalb jeweils acht E-Mails – darunter Nachrichten von Banken, Menschenrechts- und Umweltorganisationen – die sie als Spam oder Nicht-Spam kategorisieren sollten. In einem zweiten Schritt haben die Wissenschaftler dann anhand von zwei standardisierten Fragebögen erfasst, wie groß die soziale Veranlagung der Teilnehmer ist. Ein Fragebogen enthielt Fragen, die speziell das Umweltschutzverhalten abprüfte. Ein zweiter fragte weniger spezifisch nach generellen Verhaltensweisen, die dem Gemeinwohl dienten. Darunter waren etwa Fragen, ob man sparsam heize oder für humanitäre Zwecke spende.
Umweltmotivierte Menschen trainieren mehr Gemeinwohl
Das Ergebnis überraschte auch das Team, wie Zabel weiter ausführt: „Entgegen unserer Erwartung zeigte sich, dass die generelle Gemeinwohl-Orientierung, die Altruismus-Skala, die Effekte bei der Spam-Kategorisierung viel weniger gut als die Umweltschutz-Skala vorhersagen konnte.“ Interessant sei dementsprechend, dass Menschen mit einer größeren Umweltmotivation sowohl die E-Mails der Klimaschutzorganisationen als auch die der humanitären Organisationen seltener als Spam einstuften.
Dies entspreche den Ergebnissen früherer Studien: Umweltmotivierte Personen seien häufig hilfsbereiter und verhielten sich prosozial. „Es ist also wahrscheinlicher, dass sich Menschen mit einer größeren Umweltmotivation sowohl für den Schutz der Umwelt als auch für das Wohlergehen ihrer Mitmenschen einsetzen. Deshalb lassen diese Personen auch die E-Mails der humanitären Organisationen durchgehen“, analysiert Zabel. Letztendlich kommt das Team – auch in anderen neuen Studien – zu dem Schluss, dass Umweltschutzverhalten eine spezielle Variante von einer grundlegenden Prosozialität eines Menschen ist.
Nachhaltigkeitsorientierte Algorithmen entwickeln
Laut Prof. Dr. Siegmar Otto sind die Ergebnisse der Studie auch relevant für andere Bereiche, in denen Algorithmen Entscheidungen treffen: „Die Studie verdeutlicht noch einmal, wie wichtig es ist, die persönlichen Werte, der für die Entwicklung von KI verantwortlichen Menschen zu berücksichtigen.“ Die Ergebnisse seien auch eine Anregung dafür, Algorithmen zu entwickeln, die nachhaltig und sozial agieren: „Es ist möglich die Systeme so zu trainieren, dass sie soziale und ökologische Entscheidungen für eine möglichst breite Bevölkerungsgruppe unterstützen.“
