Studie: Gehirn kann Deepfake erkennen

by | Jun 12, 2024

Anhoren

Teilen

 

Eine Studie der Universität Zürich zeigt: Das menschliche Gehirn macht beim Verarbeiten von natürlichen Stimmen im Vergleich zu ihren Deepfake-Imitationen einen Unterschied.

Forscher der Universität Zürich haben im Rahmen einer Studie zwei Hirnareale identifiziert, die unterschiedlich auf akustische Signale reagieren. Damit könne das Gehirn grundsätzlich natürliche Stimmen im Vergleich zu Deepfake-Imitationen unterschieden – zumindest unbewusst. Zwar würden Menschen die geklaute Identität in einem Deepfake-Audio häufig als natürlich akzeptieren, das Gehirn reagiere auf Deepfake-Stimmen jedoch anders als auf natürliche Stimmen.

Grundsätzlich hat jeder Mensch hat ein einzigartiges Stimmprofil. Dies hilft, um die Person zu identifizieren. Neueste Algorithmen zur Stimmsynthese sind inzwischen allerdings so leistungsfähig, dass sie künstliche Stimmklone erstellen können, die den Identitätsmerkmalen natürlicher Sprecher qualitativ sehr nahekommen. Noch nie war es so leicht, mit Deepfake-Technologien natürliche Stimmen zu imitieren, entweder für Betrugsversuche am Telefon oder um dem Sprachassistenten die Stimme der Lieblingsschauspielerin zu geben.

Zwei Drittel ordnen Deepfakes richtig ein

Deshalb wollte man in Zürich wissen, wie das menschliche Gehirn auf diesen „Stimmklau“ reagiert. Dafür testeten die Forscher zunächst mit psychoakustischen Methoden, wie gut die menschliche Identität in den imitierten Stimmklonen erhalten bleibt. Sie nahmen die Stimmen vier männlicher Sprecher auf und generierten mit Hilfe von Computeralgorithmen Deepfake-Stimmen dieser Sprecher. Im Hauptexperiment hörten 25 Probanden mehrere Stimmen und sollten entscheiden, ob die Identität zweier Stimmen identisch war oder nicht. Dabei gab es zwei Aufgaben: Entweder sollten sie die Identität von zwei natürlichen Stimmen oder einer natürlichen und einer Deepfake-Stimme abgleichen.

Hierbei zeigte sich, dass die Deepfake-Identitäten in zwei Dritteln der Fälle korrekt zugeordnet wurden. „Dies verdeutlicht, dass aktuelle Deepfake-Stimmen zwar nicht perfekt die Identität imitieren, aber das Potential haben, die Wahrnehmung von Menschen zu täuschen“, sagt Claudia Roswandowitz, Post-Doc am Institut für Computerlinguistik der Universität Zürich.

Belohnungssystem als Schlüssel

Mit Hilfe von bildgebenden Verfahren untersuchten die Forscher dann, welche Gehirnareale abweichend auf Deepfake-Stimmen im Vergleich zu natürlichen Stimmen reagieren. Dabei machten sie zwei zentrale Areale ausfindig, die den Fake erkennen: Zum einen reagiert ein Teil des mesolimbischen Systems, der Nucleus Accumbens, anders auf Deepfake-Stimmen. „Der Nucleus Accumbens ist ein wichtiger Bestandteil des Belohnungssystems im Gehirn. Er war weniger aktiv, als die Probandinnen und Probanden die Identität zwischen Deepfake und natürlichen Stimmen abgleichen sollten“, führt Roswandowitz weiter aus. Viel aktiver war hingegen der Nucleus Accumbens, wenn die Probandinnen und Probanden zwei natürliche Stimmen vergleichen mussten.

Das zweite Hirnareal, dass in dem Experiment bei den Versuchsteilnehmenden aktiv war, scheint auf die akustische Differenz zwischen natürlicher und Deepfake-Stimme zu reagieren: Der auditorische Cortex, zuständig für die Analyse von Geräuschen, war aktiver, als es die Identität zwischen Deepfake und natürlicher Stimme abzugleichen galt. „Wir vermuten, dass dieses Areal auf die noch nicht perfekte akustische Imitation der Deepfake-Stimmen reagiert und versucht, das fehlende akustische Signal auszugleichen“, sagt die Erstautorin. Je weniger natürlich und sympathisch die gefälschte Stimme im Vergleich zu ihrem natürlichen Gegenstück wahrgenommen wurde, desto grösser waren die Aktivitätsunterschiede im auditorischen Cortex.

Deepfake-Stimmen machen keinen „Spaß“

Der Fake-Anteil in den Deepfake-Stimmen scheint also zu weniger Vergnügen beim Hören zu führen, und das relativ unabhängig von der Qualität des akustischen Signals. „Der Mensch kann also nur teilweise durch Deepfakes getäuscht werden. Besonders die neuronalen Mechanismen, die bei der Verarbeitung von Deepfakes identifiziert wurden, verdeutlichen die menschliche Widerstandsfähigkeit gegenüber gefälschten Informationen, die uns im Alltag immer häufiger begegnen“, folgert Roswandowitz.

Das könnte Sie auch interessieren

Gemüsekohl für die Gesundheit

Forscher des Leibniz-Instituts für Gemüse- und Zierpflanzenbau haben jene Kohlsorten identifiziert, die besonders wertvolle Pflanzenstoffe für den Menschen beinhalten. Wie die sich auf die Gesundheit auswirken, wird nun in einer Interventionsstudie untersucht.

Grün und vielfältig sollte sie sein, unsere Ernährung. Und einem Gemüse kommt dabei eine besondere Bedeutung zu: Gemüsekohl. Am Leibniz-Institut für Gemüse- und Zierpflanzenbau (IGZ) gibt es mit dem Projekt SharpGreens sogar ein eigenes Forschungsprojekt, das jetzt in die zweite Phase startet. Die wissenschaftliche Fragestellung: Wie beeinflusst eine vielfältige Ernährung reich an Gemüsekohl die Gesundheit? Die humane Interventionsstudie wird gemeinsam mit dem Universitätsklinikum Freiburg umgesetzt. Erforscht werden sollen vor allem die Auswirkungen auf die Immunfunktionen und das Darmmikrobiom.
Der Interventionsstudie ist eine intensive erste Projektphase vorangegangen, für die am IGZ in den vergangenen 30 Jahre eine umfassende Analytikplattform für sekundäre Pflanzenstoffe und ihre Abbauprodukte entwickelt wurde. Im Fall des Gemüsekohls geht es um die sogenannten Glucosinolate, die beim Verzehr enzymatisch zu gesundheitsfördernden Abbauprodukten, den Isothiocyanaten, umgewandelt werden können. Diese Substanzen haben entzündungshemmende, antikanzerogene und antimikrobielle Eigenschaften. Bisher wurden mehr als 100 verschiedene Glucosinolate in Pflanzen identifiziert, wobei die Wirksamkeit ihrer Abbauprodukte stark variieren kann.
Über 300 Kohlsorten kultiviert
Im Rahmen des Projekts SharpGreens kultivierte das Team von Projektleiterin Dr. Katja Witzel im letzten Jahr 300 Genbank- und 17 kommerzielle Kohlsorten am IGZ und analysierte die Glucosinolat-Gehalte und Abbauprodukte. Dabei wurden 24 Kohlsorten mit verbesserten Glucosinolat-Gehalten und gewünschten -Abbauprofilen identifiziert. Diese stammen aus verschiedenen Regionen, darunter Kohlrabi aus der ehemaligen DDR, Blumenkohl-Sorten aus Italien, Weißkohl aus Japan und Spanien, Grünkohl aus Schweden und bulgarischer Rotkohl. Zur weiteren Aufklärung des enzymatischen Glucosinolat-Abbaus wurde das Proteom aller Kohlsorten am IGZ analysiert und ergänzend dazu eine genomweite Assoziationsstudie vom Projektpartner Leibniz-Institut für Pflanzengenetik und Kulturpflanzenforschung (IPK) durchgeführt.
In der nun gestarteten zweiten Projektphase werden die ausgewählten Kohlsorten in der Interventionsstudie am Universitätsklinikum Freiburg unter der Leitung von Prof. Dr. Evelyn Lamy eingesetzt. Es wird untersucht, ob der Verzehr einer vielfältigeren Gemüsekohl-Diät die Gesundheit beeinflusst und ob diese Effekte auf den hohen Gehalt an gesundheitsfördernden Inhaltsstoffen oder die Pflanzenvielfalt zurückzuführen sind. Die Probanden erhalten dafür in einem randomisierten Crossover-Versuch vier verschiedene Gemüsekohl-Diäten, die aus gefriergetrockneten Kohlpflanzen am IGZ hergestellt werden und definierte Mengen an bioaktiven Substanzen enthalten. Außerdem wird der Einfluss der Vielfalt an Gemüsekohl in der Ernährung auf die Zusammensetzung des Darmmikrobioms untersucht.
Bewusstsein für Vielfalt fördern
Die Forschungsergebnisse sollen anschließend über verschiedene Formate wie Kochevents, Feldführungen und Ausstellungen an die Öffentlichkeit kommuniziert werden. Ziel ist es, das Bewusstsein für den Erhalt der Artenvielfalt in der Landwirtschafft sowie eine vielfältige pflanzenbasierte Ernährung zu fördern. Unterstützt werden die Forscher dabei von proWissen Potsdam e.V. Das Bundesministerium für Bildung und Forschung fördert SharpGreens im Rahmen der Forschungsinitiative zum Erhalt der Artenvielfalt (FEdA) und der Richtlinie zur Erforschung der Zusammenhänge zwischen Biodiversität und menschlicher Gesundheit (BiodivGesundheit2) mit 1,1 Millionen Euro für einen Zeitraum von drei Jahren.

Forscher des Leibniz-Instituts für Gemüse- und Zierpflanzenbau haben jene Kohlsorten identifiziert, die besonders wertvolle Pflanzenstoffe für den Menschen beinhalten. Wie die sich auf die Gesundheit auswirken, wird nun in einer Interventionsstudie untersucht.

Grün und vielfältig sollte sie sein, unsere Ernährung. Und einem Gemüse kommt dabei eine besondere Bedeutung zu: Gemüsekohl. Am Leibniz-Institut für Gemüse- und Zierpflanzenbau (IGZ) gibt es mit dem Projekt SharpGreens sogar ein eigenes Forschungsprojekt, das jetzt in die zweite Phase startet. Die wissenschaftliche Fragestellung: Wie beeinflusst eine vielfältige Ernährung reich an Gemüsekohl die Gesundheit? Die humane Interventionsstudie wird gemeinsam mit dem Universitätsklinikum Freiburg umgesetzt. Erforscht werden sollen vor allem die Auswirkungen auf die Immunfunktionen und das Darmmikrobiom.
Der Interventionsstudie ist eine intensive erste Projektphase vorangegangen, für die am IGZ in den vergangenen 30 Jahre eine umfassende Analytikplattform für sekundäre Pflanzenstoffe und ihre Abbauprodukte entwickelt wurde. Im Fall des Gemüsekohls geht es um die sogenannten Glucosinolate, die beim Verzehr enzymatisch zu gesundheitsfördernden Abbauprodukten, den Isothiocyanaten, umgewandelt werden können. Diese Substanzen haben entzündungshemmende, antikanzerogene und antimikrobielle Eigenschaften. Bisher wurden mehr als 100 verschiedene Glucosinolate in Pflanzen identifiziert, wobei die Wirksamkeit ihrer Abbauprodukte stark variieren kann.
Über 300 Kohlsorten kultiviert
Im Rahmen des Projekts SharpGreens kultivierte das Team von Projektleiterin Dr. Katja Witzel im letzten Jahr 300 Genbank- und 17 kommerzielle Kohlsorten am IGZ und analysierte die Glucosinolat-Gehalte und Abbauprodukte. Dabei wurden 24 Kohlsorten mit verbesserten Glucosinolat-Gehalten und gewünschten -Abbauprofilen identifiziert. Diese stammen aus verschiedenen Regionen, darunter Kohlrabi aus der ehemaligen DDR, Blumenkohl-Sorten aus Italien, Weißkohl aus Japan und Spanien, Grünkohl aus Schweden und bulgarischer Rotkohl. Zur weiteren Aufklärung des enzymatischen Glucosinolat-Abbaus wurde das Proteom aller Kohlsorten am IGZ analysiert und ergänzend dazu eine genomweite Assoziationsstudie vom Projektpartner Leibniz-Institut für Pflanzengenetik und Kulturpflanzenforschung (IPK) durchgeführt.
In der nun gestarteten zweiten Projektphase werden die ausgewählten Kohlsorten in der Interventionsstudie am Universitätsklinikum Freiburg unter der Leitung von Prof. Dr. Evelyn Lamy eingesetzt. Es wird untersucht, ob der Verzehr einer vielfältigeren Gemüsekohl-Diät die Gesundheit beeinflusst und ob diese Effekte auf den hohen Gehalt an gesundheitsfördernden Inhaltsstoffen oder die Pflanzenvielfalt zurückzuführen sind. Die Probanden erhalten dafür in einem randomisierten Crossover-Versuch vier verschiedene Gemüsekohl-Diäten, die aus gefriergetrockneten Kohlpflanzen am IGZ hergestellt werden und definierte Mengen an bioaktiven Substanzen enthalten. Außerdem wird der Einfluss der Vielfalt an Gemüsekohl in der Ernährung auf die Zusammensetzung des Darmmikrobioms untersucht.
Bewusstsein für Vielfalt fördern
Die Forschungsergebnisse sollen anschließend über verschiedene Formate wie Kochevents, Feldführungen und Ausstellungen an die Öffentlichkeit kommuniziert werden. Ziel ist es, das Bewusstsein für den Erhalt der Artenvielfalt in der Landwirtschafft sowie eine vielfältige pflanzenbasierte Ernährung zu fördern. Unterstützt werden die Forscher dabei von proWissen Potsdam e.V. Das Bundesministerium für Bildung und Forschung fördert SharpGreens im Rahmen der Forschungsinitiative zum Erhalt der Artenvielfalt (FEdA) und der Richtlinie zur Erforschung der Zusammenhänge zwischen Biodiversität und menschlicher Gesundheit (BiodivGesundheit2) mit 1,1 Millionen Euro für einen Zeitraum von drei Jahren.

Vivantes-Neuausrichtung steht

Der Aufsichtsrat der Vivantes Netzwerk für Gesundheit GmbH hat diese Woche ein ambitioniertes Neuausrichtungs- und Sanierungskonzept auf den Weg gebracht. Das jährliche Defizit soll in zwei Stufen um 110 Millionen Euro sinken.

Der Aufsichtsrat der Vivantes Netzwerk für Gesundheit GmbH hat diese Woche ein ambitioniertes Neuausrichtungs- und Sanierungskonzept auf den Weg gebracht. Das jährliche Defizit soll in zwei Stufen um 110 Millionen Euro sinken.