KI in der Medizin – was kann sie, was nicht?

by | Jan 17, 2024

Prof. Dr. Dirk Stein ist Professor an der FOM Hochschule und forscht am Institute for Strategic Finance zu den Themengebieten digitale Transformation und Digital Entrepreneurship

Anhoren

Teilen

Künstliche Intelligenz ist spätestens seit dem Durchbruch von OpenAI mit ihrem ChatGPT im Mainstream angekommen. Gerade für das Gesundheitswesen seien die Chancen dank KI groß, heißt es oft. Dass diese Medaille auch eine Schattenseite hat, erklärt Prof. Dirk Stein.

 

Prof. Stein, Künstliche Intelligenz ist in aller Munde und die Chancen und Möglichkeiten für den Einsatz von KI gerade im Gesundheitswesen werden mit Superlativen beschrieben. Was braucht es aus Ihrer Sicht, um dieses Potenzial auch tatsächlich nutzen zu können?

Ich bekomme dieser Tage unzählige Anfragen – und zwar branchenübergreifend –, um über das Potenzial von KI zu sprechen, Workshops zum Thema für Führungskräfte geben – die in der Regel alle Ü60 sind – oder um bei der Entwicklung konkreter Lösungen und Einsatzszenarien beratend zu unterstützen. Den Rat, den ich dann zunächst einmal gebe: Durchatmen. Denn hektisch in Technologie zu investieren, macht als ein erster Schritt keinen Sinn. Die Frage muss vielmehr lauten: Wie will ich als Unternehmen im digital vernetzten KI-Zeitalter Veränderungen in der Organisation überhaupt umsetzen? Und da nehme ich das Gesundheitswesen, die Kliniken, Praxen und Pflegeeinrichtungen nicht von aus.  

Heißt das, in Punkto KI gilt dasselbe wie bei Digitalisierungsprojekten: Sie sind kein Selbstzweck, weshalb man sich zunächst die eigenen Prozesse sehr genau anschauen sollte?

Absolut richtig und in einer regulierten Branche wie dem Gesundheitswesen vielleicht noch einmal intensiver – und zwar völlig untechnisch. Zunächst gilt nämlich zu klären, was überhaupt automatisiert werden darf. Ein aktuelles Beispiel aus einer anderen, aber ebenfalls stark regulierten Branche ist das Schufa-Urteil Anfang Dezember. Dort hat der Europäische Gerichtshof die Schufa quasi entmachtet, indem er entschied, dass der Schufa-Score eben nicht für voll automatisierte Entscheidungen über einen Vertragsabschluss genutzt werden darf. Kurz: Ist die Ausrichtung nicht klar, werden die Prozesse nicht kritisch hinterfragt und ein neues Mindset etabliert, nützt auch die beste KI nichts, respektive kann sie keinen wirklichen Wandel herbeiführen. Auf neudeutsch: Wer KI wirklich für sich nutzen will, muss zunächst einmal an seiner AI-Leadership-Culture arbeiten. Dann ergeben sich die Handlungsfelder mehr oder weniger von alleine.

Von diesem ersten wichtigen Schritt sind, wie Sie selbst sagen, die meisten Unternehmen noch weit entfernt. Und dennoch wartet anschließend die vielleicht noch größere Hürde, nämlich saubere Prozesse und strukturierte Daten, ohne die sich das Potenzial von KI-Anwendungen auch nur bedingt entfalten kann…

Auch das geht im aktuellen KI-Hype in der Regel unter, richtig. Saubere Prozesse gibt es in der Regel wenige, dafür jede Menge Workarounds, die vielleicht sogar nur die seit langem etablierten Mitarbeiter in ihrer Gänze verstehen. Das Fatale daran: In den Prozessen stecken die Daten. Ergo: krumme Prozesse, krumme Daten. Ein sinnvoller Einsatz von KI ist da gelinde gesagt fraglich. Die Hausaufgaben, die Unternehmen zunächst einmal machen müssen – und hier spreche ich nicht ausschließlich über das Gesundheitswesen – sind also beachtlich.

Angenommen, wir haben nur Musterschüler und die genannten Hausaufgaben sind schnell erledigt. Wie lässt sich anschließend eine Datenqualität erreichen, die den hohen –auch ethischen – Ansprüchen genügt, die in der Gesundheitsversorgung zwangsläufig gefordert werden muss?

Ein aus meiner Sicht ganz wichtiges Thema für die Nutzung von generativer KI im Gesundheitswesen. Allerdings müssen wir vorher einmal über die ökonomische Nachhaltigkeit der KI sprechen, die ich bisher vermisse. Selbst bei Lösungen wie ChatGPT gibt es noch keinen wirklichen Business Case, mit dem am Ende des Tages Geld verdient werden kann. Denn auch wenn es sich um eine wirklich fähige Maschine handelt, sind die Kosten nach wie vor horrend – zum einen für das Top-Management, für das OpenAI in den USA Gehälter aufruft, um Microsoft-Mitarbeiter abzuwerben, die man sonst nur aus dem Profisport kennt, zum anderen verschlingt der nach wie vor extreme hohe Energieverbrauch Gelder.

Inwiefern steht die ökonomische Nachhaltigkeit im Zusammenhang mit der Datenqualität?

Ganz einfach: Wenn die Kosten in einigen Bereichen derart hoch sind, muss zwangsläufig in anderen gespart werden. Und das betrifft – leider muss man hier sagen – das Training der KI. Denn das wird, wie wir es aus der Bekleidungsindustrie kennen, in Drittweltländer ausgelagert. Provokant gesagt: Die Näherinnen in Bangladesch sind diejenigen, die künftig die KI trainieren, die in den Industrienationen zum Einsatz kommt. Für ein bis zwei Dollar pro Stunde sitzen Menschen – zum Teil ausgebildete Mediziner, aber nicht immer – am Golf von Bengalen oder in Kenia in irgendwelchen Boxen und zeigen der KI, wie man beispielsweise in den verschiedenen bildgebenden Verfahren Karzinome erkennt. Wenn ich es beschreiben müsste, würde ich es als moderne Sklaverei bezeichnen.

Sie sagen also, dass das Training der KI ausgelagert wird und Trainingsmethoden sowie Qualität dabei zweitrangig sind, wenn die Kosten niedrig bleiben?

Leider beschreibt es das sehr treffend, wie die New York Times übrigens schon 2019 berichtet hat. Das betrifft generative KI und Deep Learning und kann, gerade wenn es um die Gesundheit geht, eigentlich nicht der Anspruch sein, den wir an den Tag legen sollten.

Sie sprechen das wirtschaftliche Dilemma der KI-Anbieter für das, ich sage mal, billige Outsourcing des so wichtigen Trainings an. Unter welchen Umständen könnte das Training anders erfolgen, so dass die Datenqualität auch unseren Ansprüchen an moderne Gesundheitsanwendungen genügt?

Hier schließt sich vermutlich noch ein moralisches Dilemma an, nämlich die Frage, wer einen Tumor zuverlässiger erkennt, ein Arzt, der vielleicht 1.000 Tumorbilder in seinem Leben gesehen hat, oder eine KI mit zehn-, 100- oder 1.000-facher Erfahrung – selbst, wenn sie von den schlecht bezahlten „Näherinnen“ trainiert wurde. Ich persönlich habe so meine Zweifel, wie es um die Datenqualität steht, kann gleichzeitig aber nicht beurteilen, ob die KI ob der großen Datenmenge trotz allem nicht doch zuverlässiger Tumore erkennt, als der einzelne Arzt oder die einzelne Ärztin. Soll heißen: Selbst mit einem qualitativ minderwertigen Training können die Vorteile der KI überwiegen. Wir bleiben zwar deutlich hinter den Möglichkeiten, würde an diesem Ende nicht gespart, erreichen aber dennoch eine höhere Effizienz, was derzeit wohl als Maßstab auszureichen scheint.

Sehen Sie einen Ausweg aus den beschriebenen Dilemmas?

Ein greifbarer, mit dem die Kosten spürbar sinken könnten, sind energieeffiziente Chips, die durchaus kurz vor der Einführung stehen könnten. Ein zweiter, für den es noch keine Lösung gibt, ist die Möglichkeit, die KI ohne den Menschen zu trainieren. Sie sehen, das Thema wird uns auf so vielen Ebenen noch sehr lange beschäftigen.

 

New York Times deckt Hintergründe zum KI-Training auf

Technologie-Reporter Cade Metz hat 2019 in seinem Artikel für die New York Times als erster das System hinter dem KI-Training kritisch hinterfragt, das er so beschreibt: „K.I., so würden die meisten Menschen in der Tech-Branche sagen, ist die Zukunft ihrer Branche, und sie verbessert sich schnell dank des so genannten maschinellen Lernens. Aber Führungskräfte aus der Technologiebranche sprechen nur selten über den arbeitsintensiven Prozess, der zu seiner Entwicklung führt. Die KI lernt von Menschen. Von vielen, vielen Menschen.“

Metz beschreibt, wie Männer und Frauen in Indien, eingepfercht in kleinen Boxen medizinisches Bildmaterial beispielsweise nach Polypen im Darm durchsuchen – zum Teil ohne medizinische Ausbildung.

 

Prof. Dr. Dirk Stein ist Professor an der FOM Hochschule und forscht am Institute for Strategic Finance zu den Themengebieten digitale Transformation und Digital Entrepreneurship. Die beruflichen Stationen von Dirk Stein waren unter anderem verschiedene Forschungsinstitute an der RWTH Aachen, General Electric und KPMG. Stein wurde zudem bei General Electric Capital mit dem Jack Welsh Leadership Award ausgezeichnet. Seine Schwerpunkthemen sind nachhaltige Betriebs- und Geschäftsmodelle für die digitale Wirtschaft.

Das könnte Sie auch interessieren

Schnarch-App für Mobil-Versicherte

Mit dem eigenen Smartphone herausfinden, wie gut es um die Schlafgesundheit steht. Versicherte der Mobil Krankenkasse erhalten Zugang zur App Snorefox.

Fusion in der Pflegesoftwarebranche

Die Berliner Geocon Software GmbH und die Dürener Cairful GmbH schließen sich zusammen und wollen damit ihren Umsatz künftig deutlich steigern.

Zusammenschluss bei RNA-Forschung

Die beiden Biopharmazie-Unternehmen Ipsen und Skyhawk Therapeutics schließen sich im Bereich Neurowissenschaften zusammen. Vor allem Ipsen will damit die eigene Pipeline erweitern.

Die beiden Biopharmazie-Unternehmen Ipsen und Skyhawk Therapeutics schließen sich im Bereich Neurowissenschaften zusammen. Vor allem Ipsen will damit die eigene Pipeline erweitern.