IT-Station: Deepfakes, Desinformation und die neue Unsicherheit

Vertrauen wird in einer Welt voller Deepfakes und Desinformation zu einer wichtigen Währung, ist sich Cybersecurity-Experte Thomas Bail sicher. In seiner aktuellen Kolumne der IT-Station zeigt er auf, das Digitalkompetenz und Technologie in Kombination der Schlüssel sind. 

Die Stimme klang vertraut. Ruhig, klar, mit Nachdruck. Ein kurzer Anruf – angeblich vom Geschäftsführer – mit der Bitte, einen fünfstelligen Betrag auf ein neues Konto zu überweisen. Die Buchhalterin handelte gewissenhaft, wie sie es immer tat. Wenige Stunden später war das Geld weg. Und der Chef wusste von nichts.

Was nach einer Episode aus einem schlechten Krimi klingt, ist längst bittere Realität. Die Stimme war ein Fake – eine täuschend echte Imitation, erzeugt von einer KI, trainiert auf Basis frei verfügbarer Sprachaufnahmen. Kein Tippfehler, kein Klick auf einen falschen Link – sondern Manipulation durch ein Werkzeug, das in Zukunft noch gefährlicher wird: der Deepfake.

Die Erosion des Vertrauens

Deepfakes sind keine Spielerei mehr. Sie sind das vielleicht subtilste und zugleich zerstörerischste Werkzeug digitaler Akteure. Sie greifen nicht frontal an wie ein klassischer Cyberangriff, sondern säen Zweifel – präzise, lautlos, unerkennbar. Und das auf zwei Ebenen: der öffentlichen und der privaten. Der Angriff auf Meinungen und auf Identitäten folgt denselben Mustern – mit unterschiedlichen Zielen.

Öffentlich zielen sie auf das, was Gesellschaften zusammenhält: Vertrauen. Wenn ein Video auftaucht, das angeblich zeigt, wie israelische Soldaten Kriegsverbrechen begehen, wer kann noch mit Sicherheit sagen, dass es echt ist? In einem digitalen Umfeld, das längst von Geschwindigkeit und Emotion getrieben ist, genügen Sekunden, um das Bild einer Gesellschaft zu kippen. Wenige Zweifel reichen, um ihre Fundamente ins Wanken zu bringen.

Doch auch jenseits der politischen Bühne ist der Schaden real. Privatpersonen und Unternehmen werden zunehmend Ziel technisch raffinierter Deepfake-Angriffe: Stimmenklone am Telefon, animierte Avatare in Videocalls, täuschend echte E-Mails. Was gestern aufwendig war, ist heute Dienstleistung., buchbar, skalierbar, perfide. Das eigentlich Erschütternde ist nicht die Lüge selbst, sondern der permanente Zweifel, den sie hinterlässt. Menschen können mit Täuschung umgehen, wenn sie wissen, dass sie getäuscht werden. Schwerer wiegt die Unsicherheit, ob etwas vielleicht doch wahr ist. Deepfakes zielen genau darauf ab, sie machen Realität porös. Wer nicht mehr weiß, was er glauben kann, glaubt irgendwann nichts mehr oder alles.

Technik und Haltung – zwei Wege, ein Ziel

Einfache Antworten helfen hier nicht weiter. Die Herausforderung ist komplex und verlangt einen doppelten Ansatz. Zwei Wege, die zunächst nebeneinander verlaufen, aber letztlich auf dasselbe Ziel hinauslaufen: Vertrauen zurückgewinnen, wo es durch digitale Täuschung erschüttert wurde. Denn so berechtigt die Hoffnung auf technische Lösungen auch ist, sie birgt eine gefährliche Illusion: Die Vorstellung, man könne das Problem allein durch bessere Tools in den Griff bekommen. Der Engpass liegt nicht an den technischen Möglichkeiten, sondern an deren Umsetzung, Standardisierung und Verankerung.

Deepfakes entwickeln sich rasant weiter. Frei zugängliche Modelle imitieren Stimmen, Gesichter, Bewegungen. Was gestern noch aufwendig war, ist heute Routine. Technische Ansätze wie Wasserzeichen, Herkunftsnachweise oder Kennzeichnungen für generierte Inhalte könnten helfen. Doch deren Einführung stockt. Standards fehlen, die Umsetzung ist komplex.

Zugleich tun sich Institutionen, Behörden, Bildungssysteme – und auch viele Unternehmen – schwer, Basistechnologien der Digitalisierung zuverlässig umzusetzen. Die Wahrheit: Wir sind zu langsam. Viele Lösungen existieren bereits, doch ihr Einsatz scheitert zu oft an fehlendem Willen, mangelnder Koordination oder politischen Prioritäten. Es ist wie im Märchen vom Hasen und Igel, nur dass der Igel ein synthetisches Netzwerk ist, das nie müde wird zu lernen. Wenn wir weiterhin schwerfällig bleiben, sind wir nicht der Igel – sondern der Hase. Und der verliert in der Geschichte ja bekanntlich.

Widerstandskraft entwickeln

Ein Blick auf die Gegenwart zeigt, wie dringend diese Frage ist. Etwa im Nahost-Konflikt, der längst auch auf TikTok, Instagram und YouTube geführt wird. Millionen sehen täglich Reels, Bilder, Videos – oft geschnitten, dramatisiert, manipuliert. Was wie Realität aussieht, ist in der Regel Perspektive, Inszenierung, Zuspitzung. Selten mit Kontext versehen.

Diese Inhalte prägen Meinungen, ohne dass Herkunft oder Absicht hinterfragt werden. Genau hier beginnt die Herausforderung: Nicht jedes Bild, das bewegt, ist ein Beweis. Nicht jede Stimme, die wir hören, ist echt. Und nicht jede Emotion, die uns erreicht, ist ein guter Ratgeber. Haltung heißt in dieser neuen Realität: innehalten, prüfen, einordnen. Wer in einer Welt perfekter Fälschungen bestehen will, braucht mehr als Technik, sondern vor allem Urteilskraft und neue Bildung.

Diese Haltung lässt sich nicht verordnen, sie muss wachsen – durch Wissen, Reflexion, Austausch. Es beginnt mit kritischem Denken, mit dem Verständnis digitaler Mechanismen und der Bereitschaft, Inhalte zu prüfen. Warum glaube ich diesem Video? Warum traue ich dieser Stimme? Wie kann ich Informationen verifizieren?

Diese Kompetenzen entstehen nicht von allein, sie müssen vermittelt, geübt, verankert werden. Das betrifft Schulen, Unternehmen, Familien und digitale Communities. Viele Lehrende wurden in einem anderen Medienverständnis sozialisiert – viele junge Menschen nutzen Inhalte intuitiv, aber nicht immer kritisch. Hier entsteht Raum für gegenseitiges Lernen: jung von alt, alt von jung. Nur so entsteht eine Haltung, die nicht nur informiert ist, sondern auch widerstandsfähig gegen Manipulation.

Digitale Reifeprüfung

Technologie allein wird uns nicht retten. Haltung allein auch nicht. Erst gemeinsam schaffen sie Vertrauen. Wir werden uns häufiger fragen, ob etwas echt ist. Doch darin liegt eine Chance, eine digitale Reifeprüfung. Wenn wir neue Rituale des Vertrauens entwickeln – transparente Medienarbeit, verifizierte Räume, verantwortungsvolle Technik –, kann daraus Erneuerung entstehen. Denn die Frage der Zukunft wird nicht sein, „Ist das Video echt?“, sondern „Wem kann ich trauen – selbst wenn das Video echt aussieht?“

Diese Frage ist unbequem, aber auch befreiend. Denn sie gibt uns etwas zurück, das zwischen Screens, Feeds und Likes verloren ging: die Verantwortung für unser eigenes Urteil.

Thomas Bail ist Geschäftsführer der Wolkenwerft GmbH. Mit 30 Jahren IT-Erfahrung legt er seinen Schwerpunkt auf Cybersecurity, insbesondere auf autonome Penetrationstests. Seine Leidenschaft liegt in der Reduzierung der Komplexität im Bereich Security, um Unternehmen einfacher und effizienter vor Bedrohungen zu schützen.