Die vom TÜV-Verband organisierte Interessengemeinschaft der Benannten Stellen für Medizinprodukte in Deutschland (IG-NB) hat einen Fragenkatalog für die Sicherheit von Medizinprodukten mit Künstlicher Intelligenz (KI) vorgelegt. Der Fragenkatalog dient den Sachverständigen als Leitfaden für die komplexe Prüfung von Medizinprodukten mit KI-spezifischen, digitalen Funktionen.
Grundlage des Katalogs sind insbesondere die geltenden EU-Verordnungen und internationalen Normen und Standards für Medizinprodukte und In-vitro-Diagnostika. “Künstliche Intelligenz kommt in immer mehr Medizinprodukten zum Einsatz: bei der Auswertung bildgebender Verfahren, bei der Dosierung von Medikamenten oder bei der Analyse von Laborwerten und anderer Daten für die Diagnose und Prognose bestimmter Krankheiten”, sagt Mark Küller, Referent für Medizinprodukte beim TÜV-Verband.
Neben großen Chancen für Patient:innen wie einer verbesserten Diagnostik und einer effektiveren Behandlung von Krankheiten bestünden bei der Anwendung Künstlicher Intelligenz im medizinischen Bereich aber auch Risiken. Küller: “KI-basierte Systeme in der Medizin müssen sicher sein, um Fehldiagnosen und andere gesundheitliche Gefahren zu vermeiden. Und sie dürfen bestimmte Bevölkerungsgruppen nicht aufgrund von Geschlecht, Hautfarbe oder anderer persönlicher Merkmale benachteiligen.” Hier setze der Fragenkatalog an.
Der Fragenkatalog folgt dem Gedanken, dass die Sicherheit KI-basierter Medizinprodukte nur durch einen prozessorientierten Ansatz erreicht werden kann, wobei alle relevanten Prozesse und Phasen des gesamten Lebenszyklus betrachtet werden müssen. Entsprechend stellt der Leitfaden keine spezifischen Anforderungen an die Produkte, sondern an die Prozesse. Die Fragen betreffen unter anderem generelle KI-spezifische Anforderungen an die Leistungsfähigkeit, die Cybersicherheit, das Risikomanagement, die verwendeten KI-Modelle und das Datenmanagement.
“Da bei lernenden KI-Systemen die Qualität der Trainings-, Validierungs- und Testdaten eine entscheidende Rolle für ihre Sicherheit spielt, sind im Katalog unter anderem Fragen zur Menge, Auswahl und Anonymisierung der Daten enthalten”, sagt Küller. Ein weiterer Schwerpunkt betreffe das Labeling von Daten, mit denen diese genauer beschrieben werden. Fehler beim Daten-Labeling können die Qualität eines KI-Systems stark beeinträchtigen. Ein weiterer Schwerpunkt der Fragen liegt auf der klinischen Bewertung der KI-Produkte, mit der ihr medizinischer Nutzen nachgewiesen wird.
Ein weiterer Fragenkatalog der IG-NB beschäftigt sich mit der IT-Sicherheit von Medizinprodukten. Die Fragen beschäftigen sich mit den für die IT-Sicherheit relevanten Aspekten unter anderem bei der Produktentwicklung, dem Risikomanagement, dem Passwortschutz oder Update-Prozessen. Küller: “Die Anwendung des Fragenkatalogs unterstützt die Hersteller dabei, die Anforderungen an die digitale Sicherheit von softwarebasierten Medizinprodukten bestmöglich zu erfüllen und die Benannten Stellen, diese bestmöglich zu überprüfen.”
Die Leitfäden für die Sicherheit von Künstlicher Intelligenz und die Cybersecurity von Medizinprodukten sind hier kostenlos abrufbar.
