Anhoren
Teilen
Eine Studie der TU Berlin zeigt: Große Sprachmodelle liefern nicht nur Informationen, sie strukturieren auch, welche Argumente sichtbar werden und welche Deutungen plausibel erscheinen. Das ist versteckte Meinungsbildung.
Es ist keine Studie mit speziellem Fokus auf das Gesundheitswesen und doch sind die Ergebnisse relevant: Forschende der TU Berlin konnten nachweisen, dass die KI, insbesondere große Sprachmodelle, zunehmend beeinflusst, wie Menschen Informationen wahrnehmen und bewerten. Dieser „Communication Bias“ verzerrt damit gesellschaftliche und politische Perspektiven – ein Risiko, das auch die KI-Regulierung der Europäischen Union, laut der Forschenden noch nicht adäquat berücksichtigt.
„Sprachmodelle liefern nicht nur Informationen. Sie strukturieren auch, welche Argumente sichtbar werden und welche Deutungen plausibel erscheinen. Diese oft subtilen Effekte sind für Nutzende kaum sichtbar und können öffentliche Debatten und demokratische Meinungsbildung beeinflussen“, sagt Stefan Schmid, Leiter des Fachgebiets Internet Architecture and Management an der TU Berlin und Projektleiter am Weizenbaum-Institut, der die Studie mit Adrian Kuenzler, Professor an der Rechtswissenschaftlichen Fakultät der University of Hong Kong, durchgeführt hat.
So entsteht ein Kommunikationsbias
Es gibt mehrere Ursachen, wie derartige kommunikative Verzerrungen entstehen, haben die beiden Wissenschaftler herausgefunden. Wichtig sind zunächst die Trainingsdaten. Ist dort eine Perspektive stärker vertreten als eine andere, hat das logischerweise Auswirkungen. Auch Entscheidungen beim Training und Feintuning der Modelle beeinflussen, welche Argumentationsmuster bevorzugt werden. Hinzu kommt eine weitere Eigenschaft vieler Sprachmodelle: Sie neigen dazu, sich an Erwartungen oder Positionen von Nutzenden anzupassen – ein Effekt, der in der Forschung als Sycophancy bezeichnet wird. Da diese Einflüsse häufig kontextabhängig und schwer messbar sind, lassen sich solche Verzerrungen bislang nur begrenzt systematisch erfassen.
Für ihre Studie verbinden Schmid und Kuenzler daher technische, rechtliche und ordnungspolitische Perspektiven. Sie ordnen bestehende Forschung zu politischen Verzerrungen, Polarisierung und Sycophancy in Sprachmodellen ein und analysieren zentrale europäische Regelwerke: den AI Act, den Digital Services Act (DSA) und den Digital Markets Act (DMA). Ihr Befund: Kommunikationsbias ist kein Randphänomen, sondern ein strukturelles Thema an der Schnittstelle von Technikdesign, Marktstruktur und Regulierung.
Eigenständige Betrachtung großer Sprachmodelle
Aus Sicht der beiden Autoren wird die kommunikative Wirkung großer Sprachmodelle regulatorisch bisher nicht direkt adressiert, worin sie eine Gefahr sehen. Denn gerade die generative KI ist für sehr viele Nutzende die entscheidende Schnittstelle zur Technik, weshalb sie nicht nur öffentliche Debatten, sondern auch persönliche Entscheidungen zur Gesundheit, Finanzen oder Politik beeinflussen kann.
Auch die zunehmende Marktkonzentration im Bereich großer Sprachmodelle sehen Schmid und Kuenzler kritisch. Wenn nur wenige Unternehmen zentrale Modelle, Schnittstellen und Datenzugänge kontrollieren, können sich bestimmte kommunikative Muster besonders stark durchsetzen. Aus Sicht der Autoren muss deshalb neben der Inhalts- und Sicherheitsregulierung auch die Wettbewerbsordnung stärker in die Steuerung von KI einbezogen werden.
„Wer Risiken durch Sprachmodelle wirksam begrenzen will, darf nicht nur auf Verbote oder Einzelfallmoderation setzen“, sagt Adrian Kuenzler. „Es braucht ein Informationsökosystem, in dem Vielfalt, Nachvollziehbarkeit und Wettbewerb technisch, regulatorisch und institutionell mitgedacht werden.“
Die Studie plädiert für einen breiteren Regulierungsansatz. Dazu gehören Vorgaben entlang der gesamten Entwicklungs- und Nutzungskette, überprüfbare Aufsichts- und Moderationsmechanismen, mehr Wettbewerb im Markt für KI-Systeme sowie eine technische Gestaltung, die Vielfalt und Transparenz gezielt stärkt.
Die Autoren verweisen unter anderem auf regelmäßige Audits, geeignete Benchmarks zur Untersuchung kommunikativer Verzerrungen, größere Transparenz über Trainingsdaten und Modellverhalten sowie wirksame Korrekturmöglichkeiten nach der Markteinführung. Ziel sei ein digitales Kommunikationsumfeld, das Verzerrungen begrenzt und eine vielfältige öffentliche Debatte unterstützt.
