Anhoren
Teilen
In Australien hat ein Team in einer weltweit einzigartigen Übersichtsstudie gezeigt: Fehlende Standards bei der frühzeitigen Erprobung von KI-Tools bergen Risiken für den Praxiseinsatz.
„Silent Trails“ – also Tests im klinischen Alltag ohne Einfluss auf die Patientenversorgung – sind ein wichtiges Instrument, um KI-Modelle in ihrer vorgesehenen Anwendungsumgebung zu erproben. Nun zeigt allerdings eine weltweit einzigartige Studie unter Leitung eines Teams der australischen Universität Adelaide: Es gibt keine klaren Richtlinien für diese Silent Trails. Laut der globalen Übersichtsstudie gibt es daher enorme Unterschiede, wie diese frühe Testphase durchgeführt wird, was wiederum erhebliche Auswirkungen auf die Bewertung und Wirksamkeit der KI-Tools hat.
„Der Mangel an Leitlinien für Silent Trials ist besorgniserregend“, bringt es die korrespondierende Autorin Lana Tikhomirov, Doktorandin am Australian Institute for Machine Learning der Universität Adelaide, auf den Punkt. „Werden KI-Modelle nicht gründlich getestet, sind sie unvorhersehbar und in der Praxis kaum einzusetzen.” Was das Forscherteam vor allem moniert: Einige der Studien in der Übersicht konzentrierten sich auf KI-Metriken, die klinisch nicht relevant waren, während andere nur das Nötigste untersuchten, ohne Details zur Leistung des Modells in einer klinischen Umgebung zu liefern. „Wenn diese KI-Tools ohne umfassende Tests eingeführt werden und etwas schiefgeht, könnte dies sowohl Patienten als auch Ärzte schädlichen Empfehlungen aussetzen“, betont Tikhomirov.
Internationale Richtlinien dringend benötigt
Das Team appelliert daher, sich dringend mit formellen Richtlinien für die Durchführung solcher Studien zu beschäftigen. Ansonsten könne nicht garantiert werden, dass KI-Tool in der Praxis auch tatsächlich einen Nutzen haben werden. Dabei seien Silent Trails grundsätzlich der richtige Weg, wie Mitautorin Melissa McCradden, stellvertretende Direktorin des Australian Institute for Machine Learning der Universität Adelaide, KI-Direktorin beim Women’s and Children’s Health Network und Fellow der Hospital Research Foundation im Bereich pädiatrische KI-Ethik, betont: „Stille Studien sind eine risikoarme Möglichkeit, Technologien zu testen, ohne die Behandlungsergebnisse der Patienten zu beeinträchtigen. Wir wissen aber auch, dass viele KI-Modelle versagen, wenn sie in der Praxis eingesetzt werden, und dass ein KI-Tool, das in einem Krankenhaus funktioniert, in einem anderen möglicherweise nicht funktioniert.“ Deshalb brauche es internationale Richtlinien, um KI-Tools erfolgreich aus der Forschung zu den Patienten zu bringen.
Genau darum geht es auch im Projekt CANAIRI – Collaboration for Translational Artificial Intelligence Trials (Zusammenarbeit für translationale Versuche mit künstlicher Intelligenz), dessen Leiterin McCradden ist: „Letztendlich möchten wir, dass stille Versuche zu einem obligatorischen Bestandteil des Prozesses der Einführung von KI-Tools in der Medizin werden.“
