KI-Verordnung: Wieviel Zukunft kann Deutschland?

Im Bundestag wird aktuell über die Umsetzung des EU AI Acts diskutiert. Manchen geht die Digitalisierung in Deutschland nicht schnell genug und doch muss der rechtliche Rahmen passen.

Im Bundestag geht es heute um KI, oder vielmehr um den AI Act der EU, der in nationales Recht umgesetzt werden muss. Dafür hören sich die Parlamentarier Sachverständige an, die zum Regierungsentwurf für ein Gesetz zur Durchführung der KI-Verordnung Stellung nehmen.

Im Weizenbaum-Institut – ein vom Bundesministerium für Bildung und Forschung gefördertes Verbundprojekt – begrüßt man den aktuellen Gesetzentwurf grundsätzlich – insbesondere die Aufsicht über den Einsatz von KI auf Landesebene. Wäre wie ursprünglich geplant, die Bundesnetzagentur verantwortlich gewesen, wäre das verfassungsrechtlich problematisch gewesen, sagen die Expertinnen und Experten des Instituts.

Viele Fragen noch ungeklärt

Allerdings kommen vom Weizenbaum-Institut auch deutliche Mahnungen. Man sieht rechtliche und strukturelle Defizite. So sei die KI-Marktüberwachungskammer (UKIM) weiterhin organisatorisch eng in die Bundesnetzagentur eingebunden. Vorsitz und Mitgliederstruktur überlappten sich und es fehle ein eigener Haushaltsplan.

„Eine klare institutionelle Unabhängigkeit ist nicht erkennbar,“ sagt Prof. Dr. Herbert Zech, Direktor am Weizenbaum-Institut und Lehrstuhlinhaber für Bürgerliches Recht, Technik- und IT-Recht an der Humboldt-Universität zu Berlin. „Das könnte den Anforderungen der EU-Verordnung nicht genügen. Wir empfehlen, einige Aufgaben stärker auf die Datenschutzaufsicht zu übertragen, die sowohl die erforderliche Unabhängigkeit als auch die fachliche Expertise bereits gewährleistet.“ Insgesamt stelle der Regierungsentwurf zwar eine Verbesserung im Vergleich zum Referentenentwurf dar. Um jedoch eine effektive, grundrechtskonforme und unionsrechtsfeste KI-Aufsicht zu gewährleisten, seien besonders im Bereich der KI-Marktüberwachungskammer weitere Anpassungen erforderlich.

Deutschland zu langsam?

Den Diskussionen um den rechtlichen Rahmen stehen wiederum Forderungen und Fragen aus der Praxis gegenüber. So sagte die Gesundheitsökonomin und Inhaberin des Alexander von Humboldt-Professur für digitale Gesundheit, Wirtschaft und Politik Ariel Stern gerade in einem Zeit-Interview sehr deutlich, dass Deutschland in puncto Digitalisierung elf Jahre zurückliegt. Sie bezieht sich auf das US-Gesetz aus dem Jahr 2009, das begleitet von großen Subventionen – mehr als 30 Milliarden US-Dollar seien investiert worden – das amerikanische Gesundheitswesen modernisiert hat. „Damals hatten nur zehn Prozent der Krankenhäuser in den USA ein vernünftiges elektronisches Aktensystem. Zehn Jahre später waren es weit über 90 Prozent“, sagt Stern gegenüber der Zeit-Redaktion. „Das deutsche Äquivalent ist das Krankenhaus-Zukunftsgesetz. Das wurde im Oktober 2020 verabschiedet.“

Interessant sind in diesem Kontext auch die Aussagen von Dr. Ricardo Baptista Leite, portugiesischer Arzt, Politiker und Experte für Gesundheitspolitik. Außerdem ist er CEO von HealthAI – The Global Agency for Responsible AI in Health. In der Euronews Business-Serie „The Big Question”, moderiert von Angela Barnes, sprechen beide über das europäische Gesundheitswesen sowie darüber, ob und wie KI die dort vorherrschenden strukturellen Probleme lösen kann. Die Antwort von Baptista Leite ist ein klares Jein: „KI bietet uns die Möglichkeit, allen Menschen den Zugang zu der Gesundheitsversorgung zu gewährleisten, die sie benötigen“, erklärt Ricardo gegenüber The Big Question. Aber es sei nicht ganz so einfach, dass man die KI in Arbeitsabläufe integriere und plötzlich funktioniere alles viel besser. „Wenn man KI in unsere aktuellen Pflegemodelle integriert, läuft man Gefahr, auf sehr effiziente Weise ineffizient zu werden.“

Alle müssen aktiv werden

„Wenn wir sicherstellen wollen, dass die KI alle erreicht und nicht nur einige wenige Privilegierte, müssen die Gesundheitssysteme und die Krankenkassen aktiv werden“, plädiert Baptista Leite stattdessen. In den USA würde das Gesundheitswesen stark durch private Investitionen vorangetrieben, in China hingegen staatlich gelenkt. Für Europa sieht der HealthAI-CEO daher die Chance, den goldenen Mittelweg privater und öffentlicher Partnerschaften zu finden.

Allerdings plädiert auch Baptista Leite für einen verlässlichen rechtlichen Rahmen, auf dem die KI dann skaliert werden kann. Denn ohne diesen Rahmen würde gerade die Skepsis bei den Menschen in Pflege- und Gesundheitsberufen hoch bleiben, die in vielen Ländern für Fehler haften – und da die Verantwortung an Technologie zu übergeben, ist schlicht risikobehaftet, was das Zögern der Angehörigen von Gesundheitsberufen erklärt.

Insofern sind die aktuellen Diskussionen auf EU und Länderebene zwar definitiv kein Innovationsbeschleuniger, aber vielleicht dann doch der richtige Weg. Elf Jahre Verzug können wir realistisch betrachtet ohnehin kaum aufholen. Dafür gibt es jetzt mit der KI-Verordnung aber vielleicht die Chance, es richtig zu machen.