Die möglichen Einsatzszenarien von Künstlicher Intelligenz in der Medizintechnik scheinen unendlich. Besonders der Einsatz von Superintelligenzen birgt bislang ungenutztes Potential, ebenso wie Risiken.
Während man unter einer schwachen KI eine Intelligenz versteht, welche dem Menschen lediglich in ganz bestimmten Bereichen überlegen ist, kann eine Superintelligenz – dem Menschen ebenbürtig – lernen und Entscheidungen treffen.
Doch was müssen Hersteller:innen bei der Zulassung KI-basierter medizinscher Software berücksichtigen? Und wie unterscheiden sich die regulatorischen Anforderungen des europäischen Marktes im Vergleich zu den USA?
Das müssen Hersteller:innen bei der Zulassung KI-basierter medizinscher Software beachten
In Europa gelten vor allem die Anforderungen der Verordnung (EU) 2017/745 an Softwareprodukte. Denn KI kann aus technischer Sicht als eine Unterdisziplin von Software betrachtet werden. Gemäß Anhang I Nr. 17 der Verordnung muss Software so ausgelegt sein, dass Wiederholbarkeit, Zuverlässigkeit und Leistung entsprechend bestimmungsgemäßer Verwendung gewährleistet wird.
Die FDA hingegen, unterscheidet zwischen Künstlicher Intelligenz und softwarebasierten Medizinprodukten. Zugelassen sind in den USA zudem bislang nur „locked algorithm“, welche eine abgeschlossene Lernphase aufweisen.
Während die FDA 2019 mit dem Total Product Lifecycle (TPLC) ein Konzept vorstellte, das KI-basierter medizinscher Software ein kontinuierliches Weiterlernen ermöglichen soll, bleibt in der EU vorerst fraglich: Wie kann Künstliche Intelligenz effektiv und sicher eingesetzt werden?