KI für Medizinprodukte und das digitale Gesundheitswesen

Kapitel 6

Entwicklung zertifizierbarer KI-Modelle

In den vergangenen Jahren kamen die ersten KI-basierten Medizinprodukte auf den Markt. Sie stellen einen Meilenstein für Innovatoren in der Medizinbranche dar, die mithilfe von eigenen Black-Box-Algorithmen eine Krankheit diagnostizieren oder behandeln.

Die Entwicklung von KI-basierten Modellen, die von einer Zulassungsbehörde zertifiziert werden können, ist eine zentrale Herausforderung für Entwickler von Medizinprodukten. Die meisten der in letzter Zeit von Zulassungsbehörden wie der US-amerikanischen FDA zugelassenen Produkte wurden als risikoarm für die Patienten eingestuft und erhielten eine Zulassung vor dem Vertrieb im Handel oder eine De-Novo-Einstufung als Produkte mit geringem Risiko.

Die Zulassungsbehörden haben noch kein Produkt genehmigt, das ein hohes potenzielles Risiko für die Patienten birgt, z. B. einen Diagnosealgorithmus, bei dem ein falsch positives Ergebnis zu einem risikoreichen Behandlungsverlauf führen könnte. Für die Zulassung eines solchen Algorithmus werden wahrscheinlich zusätzliche Kontrollmaßnahmen erforderlich sein.

Mit MATLAB und Simulink ist es nicht nur möglich, KI-Modelle zu entwickeln, sondern auch jene Daten zu sammeln, die zur Gewährleistung der Softwarequalität erforderlich sind. Darüber hinaus gibt es folgende Vorteile:

• MATLAB kann Sie beim Aufbau eines erklärbaren und interpretierbaren KI-Modells unterstützen.
• Zudem können Sie ein formalisiertes Verfahren anwenden, um während der Modellentwicklungsphase zu validieren, dass das Modell den Richtlinien der IEC 62304 entspricht, was eine Voraussetzung für die Zertifizierung der KI-basierten Software als Medizinprodukt (SaMD) ist.

Interpretierbarkeit und Erklärbarkeit

Interpretierbarkeit und Erklärbarkeit sind eng miteinander verbunden. Der Begriff Interpretierbarkeit wird häufiger im Zusammenhang mit dem klassischen Machine Learning verwendet, während viele im Zusammenhang mit tiefen neuronalen Netzen von „KI-Erklärbarkeit“ sprechen.

Interpretierbarkeit und Erklärbarkeit sind der Grad, in dem Algorithmen des Machine Learning von Menschen verstanden werden können. Machine-Learning-Modelle werden oft als „Black Boxes“ bezeichnet, weil ihre Wissensdarstellung nicht intuitiv ist und ihre Entscheidungsprozesse nicht transparent sind. Daher ist es oft schwierig, nachzuvollziehen, wie sie funktionieren.

Mithilfe von Interpretationsmethoden lässt sich herausfinden, wie Machine-Learning-Modelle ihre Vorhersagen treffen, indem sie aufzeigen, wie verschiedene Merkmale zu den Vorhersagen beitragen (bzw. diese nicht beeinflussen). Folgende Interpretationsmethoden können hierbei nützlich sein:

• Validierung der Tatsache, dass das Modell für die Vorhersagen geeignete Daten verwendet.
• Ermitteln von Verzerrungen in Ihrem Modell, die während des Trainings nicht offensichtlich waren.

Einige Machine-Learning-Modelle, wie z. B. die lineare Regression, Entscheidungsbäume und generalisierte additive Modelle, sind von vornherein interpretierbar. Allerdings geht die Interpretierbarkeit oft auf Kosten von Leistung und Genauigkeit.

Die Interpretierbarkeit wurde im Dokument Good Machine Learning Practice für die Entwicklung von Medizinprodukten, das gemeinsam von der US-amerikanischen FDA, Health Canada und der medizinische Zulassungs- und Aufsichtsbehörde für Arzneimittel (MHRA) in Großbritannien veröffentlicht wurde, als Standard-Leitprinzip hervorgehoben [6]. Mithilfe von MATLAB für Machine Learning und Deep Learning können verschiedene Techniken eingesetzt werden, um ein erfolgreiches Interpretationsergebnis für die jeweiligen Modelle zu erzielen. Beispiele:

• Lokale interpretierbare modellagnostische (LIME) Erklärungen
• Partielle Abhängigkeit (PDP)
• Diagramme der individuellen bedingten Erwartung (ICE)
• Shapley-Werte
• Class Activation Mapping (CAM)
• Gradientengewichtetes Class Activation Mapping (Grad-CAM)
• Okklusionsempfindlichkeit

Interpretierbarkeit und Erklärbarkeit sind ein erster Schritt zum Verständnis Ihrer KI-Modelle. Wenn Sie jedoch zu eineer späteren Stufe des Workflows übergehen, sollten Sie auch sicherstellen, dass Ihr Modell fehlerresistent erstellt wurde. Neuronale Netze können für ein Phänomen anfällig sein, das als „feindliche Beispiele“ (adversarial examples) bekannt ist und bei dem sehr kleine (für den Menschen oft nicht wahrnehmbare) Änderungen an einer Eingabe zu einer Fehlklassifizierung führen können. Mit der Deep Learning Toolbox Verification Library können Sie überprüfen, ob ein Deep-Learning-Netz gegenüber diesen feindlichen Beispielen fehlerresistent ist und die Ausgabeschranken für einen Satz von Eingabeschranken berechnen.

Modelvalidierung und -bereitstellung

Die Hersteller von Medizinprodukten sind für die Validierung ihrer KI-basierten Modelle gemeinsam mit den klinischen Wissenschaftlern verantwortlich. Das Dokument „Good Machine Learning Practice“ unterstreicht ebenfalls die Bedeutung der Validierung von KI-basierten Modellen durch die Durchführung klinischer Studien, die die vorgesehene Patientenpopulation berücksichtigen [6].

Mit MATLAB ist es möglich, eine KI-basierte Anwendung zur Validierung mit Ärzten oder Krankenhäusern zu teilen. MATLAB bietet Ihnen dazu die Möglichkeit, eine Standalone Application zu erstellen, die zur gemeinsamen Nutzung freigegeben, individuell für den Endbenutzer installiert oder auf einem Webserver gehostet werden kann, damit mehrere Benutzer über einen Webbrowser darauf zugreifen können.

Darüber hinaus unterstützt MATLAB auch Einsatzmöglichkeiten für KI-Anwendungen auf Produktionsservern, die eine schnelle Verarbeitung gleichzeitiger Anfragen ermöglichen, sowie auf parallelen Servern zur Verarbeitung größerer Patientendatenmengen im Stapelverfahren. Ebenso gibt es Möglichkeiten zur Generierung von eigenständigem, einsatzfähigem C/C++ Code für die Algorithmen, der problemlos eigenständig oder integriert in bestehende klinische Anwendungen zur Durchführung von Validierungsstudien eingesetzt werden kann.

Zertifizierungsworkflows (IEC 62304)

MathWorks macht es Ihnen leicht, die IEC 62304-Richtlinien für die Entwicklung von Software als Medizinprodukt einzuhalten. MATLAB-Workflows integrieren die Verifikation und Validierung direkt in den Softwareentwicklungsprozess. Das bedeutet, dass die Software umfassend getestet und verifiziert wird, bevor Sie sie in ein Medizinprodukt integrieren.

Daneben unterstützt MATLAB den Softwareentwicklungsprozess, indem es Funktionen für die detaillierte Softwareentwicklungsplanung, die Analyse der Softwareanforderungen, die Entwicklung der Softwarearchitektur sowie den detaillierten Softwareentwurf, die Implementierung und den Test von Softwareeinheiten, die Softwareintegration und -tests sowie den Softwaresystemtest als Teil des Entwicklungsworkflows für Medizinprodukte bereitstellt. Darüber hinaus unterstützen MATLAB und Simulink Sie bei der Bewertung der Auswirkungen einer vorgeschlagenen Softwareänderung, indem sie die Simulation der betroffenen Softwareelemente erlauben.

MATLAB generiert den Großteil der von der Richtlinie IEC 62304 geforderten Dokumentation zur Einhaltung von Richtlinien und Rechtsvorschriften (Compliance) für die Softwareentwicklung und -pflege. Weitere Informationen zu den IEC 62304-Workflows mit MATLAB und Simulink finden Sie in den Whitepapern Developing IEC 62304-Compliant Embedded Software for Medical Devices.

Khwaja erhält die IEC 62304-Zertifizierung

Herausforderung

Die Analyse von Daten aus dem Elektrokardiogramm (EKG) ist für die Erkennung und Behandlung von Herzkrankheiten unerlässlich.

Ergebnisse

Durch die Arbeit mit Simulink konnte das Team die Entwicklungszeit im Vergleich zu klassischen Ansätzen um 40% reduzieren, indem es sich an die Referenz-Workflows des IEC Certification Kit hielt, um die Modelle und den automatisch generierten Code zu verifizieren und zu validieren. Sie verkürzten darüber hinaus die Zertifizierung und das Audit beim TÜV SÜD für ISO^® 13485 und IEC 62304.