Sicherheitslücken durch Wettrennen um KI-Vorherrschaft?

by | Sep 21, 2023

Anhoren

Teilen

Höher, schneller, weiter – Künstliche Intelligenz ist auf dem Vormarsch, aber hält sie auch, was sie verspricht? Ein jüngster Vorfall in den USA lässt Zweifel aufkommen.

ChatGPT hat Künstliche Intelligenz auf ein neues Level gehoben. Damit ist die Technologie nicht nur in unserer aller Alltag angekommen, auch der Wettstreit um die technologische Vorherrschaft hat noch einmal neuen Schwung bekommen. Prinzipiell ist Wettbewerb etwas Positives, weil er Innovationen fördert und Technologiesprünge überhaupt erst möglich macht. Wenn Zeit- und Erfolgsdruck allerdings zu Fehlern führen, wird das wie im Fall der KI gefährlich.  

Das US-Technikportal TechCrunch berichtet Mitte September von einem „Vorfall“ bei Microsoft. Dort hätten KI-Forscher „versehentlich“ Dutzende von Terabytes sensibler Daten inklusive privater Schlüssel und Passwörter auf GitHub veröffentlicht. „Geplant“ war eigentlich, dort einen Speicher mit Open-Source-Trainingsdaten zu veröffentlichen. Entdeckt wurde das Versehen vom Cloud-Sicherheits-Startup Wiz, das permanent nach Datenlecks oder versehentlichen Offenlegungen bei in der Cloud gehosteten Daten Ausschau hält. Brisant dabei: Die Microsoft-Forscher hatten eine Azure-Storage-URL als Download bei GitHub hinterlegt, über die Open-Source-Code und KI-Modelle zur Bilderkennung bereitgestellt werden sollten. Die URL war allerdings laut Angaben von Wiz so konfiguriert, dass sie Zugang zum gesamten Speicherkonto gewährte und somit weitere private Daten offengelegt wurden – inklusive des persönlichen Backups auf den Computer zweier Microsoft-Mitarbeiter und mehr als 30.000 interne Teams-Nachrichten von hunderten Microsoft-Angestellten. 

Sicherheit vor Geschwindigkeit

Prof. Dr. Norbert Pohlmann, Leiter des Instituts für Internet-Sicherheit an der Westfälischen Hochschule in Gelsenkirchen beobachtet die Entwicklungen am KI-Markt genau. Viele Unternehmen würde hier derzeit viel Geld investieren, insbesondere die Monopolisten. Aber auch in KI-Startups würde derzeit überdurchschnittlich viel Geld fließen. Das belegen Zahlen des Analysehauses Pitchbook, wonach im ersten Halbjahr 2023 alleine in den USA knapp 31 Milliarden US Dollar in KI-Startups investiert wurden.1.129 Wagniskapitaldeals hätte es dort in den ersten sechs Monaten dieses Jahres gegeben. In den ersten sechs Monaten des letzten Jahres gab es mit 1.249 zwar mehr Deals, die Investitionssumme lag mit 15,6 Milliarden US-Doller jedoch deutlich unter dem diesjährigen Wert. Nach dem Report schneidet Europa mit 646 Deals und 3,7 Milliarden US-Dollar nicht nur deutlich schlechter ab als die USA, sondern auch im Vergleich zum Vorjahr, wo es im ersten Halbjahr 761 Deals gab, in die insgesamt 4,6 Milliarden US-Dollar investiert wurden.  

Dieses weltweite Wettrennen – auch China mische hier kräftig mit – führe oft zu einem zu schnellen Einführen von nicht reifen KI-Lösungen, sagt Experte Pohlmann gegenüber hct, womit die Gefahr bestünde, dass die KI-Branche insgesamt, aber auch die einzelnen Firmen an Vertrauen verlieren. „Da die Vertrauenswürdigkeit von KI-Herstellern ein sehr wichtiger Aspekt für das Vertrauen der Anwender(unternehmen) ist, kann zum Beispiel Nachlässigkeit zu massiven Reputationsverlusten führen. Dies wirkt sich sowohl auf das Ansehen der KI generell als auch auf das einzelne Unternehmen negativ aus.“  

Außerdem warnt Pohlmann, dass durch die Veröffentlichung von Daten auch Modelle manipuliert werden könnten, was zu falschen Ergebnissen führe, die wiederum auf allen Ebenen Schaden anrichten: „Wenn KI nicht sicher genug konzipiert und umgesetzt wird, vergrößern sich die Angriffsmöglichkeiten.“ 

Chancen mit Bedacht nutzen

Dennoch betont Pohlmann, dass gerade im Gesundheitswesen die Chancen durch KI und insbesondere mit Hilfe der Data-Analytics sehr hoch sind. Er erwartet positive Ergebnisse, die dazu geeignet sind, das Gesundheitsniveau allgemein zu verbessern, betont aber gleichzeitig wie wichtig der Schutz von Daten und KI-Systemen ist: „Sicherheitsziele liegen zum Beispiel in der Integrität – also dem Erkennen von Manipulation der Daten –, in der Vertraulichkeit – also der Wahrung von Unternehmensinterna –, im Datenschutz sowie in der Verfügbarkeit, womit die KI-Anwendung genauso wie die KI-Ergebnisse gemeint sind.“  

 

Das könnte Sie auch interessieren

Pilotprojekt ErwiN gestartet

Brandenburg, Berlin und Mecklenburg-Vorpommern schließen sich zusammen, um neue Wege für die medizinische und pflegerische Versorgung älterer und chronisch kranker Menschen zu finden.

Brandenburg, Berlin und Mecklenburg-Vorpommern schließen sich zusammen, um neue Wege für die medizinische und pflegerische Versorgung älterer und chronisch kranker Menschen zu finden.

da Vinci-Single-Port und neue Professur in Mainz

Die Universitätsmedizin Mainz baut ihre Robotik-gestützte Chirurgie weiter aus und ist damit die erste Universitätsklinik in Deutschland, die über das da Vinci Single-Port-System verfügt.