Am 7. Januar 2025 hat die FDA einen Entwurf für eine Richtlinie für Entwickler von KI-gestützten Medizinprodukten veröffentlicht, um eine sichere und effektive Entwicklung sowie den Einsatz solcher Produkte über ihren gesamten Lebenszyklus hinweg zu gewährleisten („Draft Lifecycle Guidance“). Dieser Richtlinienentwurf stellt die bisher detaillierteste Position der FDA zu diesem Thema dar. Die FDA nimmt bis zum 7. April 2025 Feedback von Stakeholdern zu diesem Richtlinienentwurf entgegen. 

Kontext

Seit 2018 setzt die FDA ihren Medical Device Safety Action Plan (Aktionsplan zur Sicherheit von Medizinprodukten) um. Ein wesentliches Thema dieses Plans ist die Ausrichtung des Sicherheitsbewertungsverfahrens der FDA auf die Art des Medizinprodukts und nicht auf die Phase seines Lebenszyklus.

Die frühere Fokussierung auf bestimmte Lebenszyklusphasen (wie die Prüfung vor der Markteinführung und die Überwachung nach der Markteinführung) wurde unter anderem durch KI-gestützte Medizinprodukte infrage gestellt, da sich diese nach ihrer Inbetriebnahme erheblich verändern können.

Ein wesentliches Element dieses regulatorischen Übergangs ist der Total Product Life Cycle (TPLC)-Ansatz. Dieser sieht vor, die auf Lebenszyklusphasen ausgerichteten Teams der FDA (beispielsweise für die Prüfung vor der Markteinführung und die Überwachung nach der Markteinführung) in Teams umzustrukturieren, die nach Produkttypen organisiert sind. Die TPLC-Datenbank strukturiert Informationen in ähnlicher Weise nach Medizinprodukten und führt Daten aus separaten FDA-Datenbanken für Zulassungen vor der Markteinführung (Premarket Approvals), Vorabmitteilungen (Premarket Notifications), De-Novo-Klassifizierungsanträge, Berichte über unerwünschte Ereignisse sowie Rückrufe von Medizinprodukten zusammen.

Im April 2019 veröffentlichte die FDA ein Diskussionspapier über KI/ML-gestützte Software als Medizinprodukt (Software as a Medical Device). Darin wurde empfohlen, im Vorfeld von Marktzulassungsanträgen Pläne für vorab festgelegte Änderungen (Predetermined Change Control Plans, PCCPs) einzureichen. Dies soll Herstellern helfen, die Genehmigung der FDA für geplante Modifikationen vorab zu sichern und diese Änderungen ohne einen erneuten Zulassungsantrag bei der FDA umzusetzen.

Aufbauend auf umfassenden früheren Richtlinien im Zusammenhang mit KI-gestützten Medizinprodukten hat die FDA am 4. Dezember 2024 ihre Richtlinie zu PCCPs für KI-gestützte Medizinprodukt-Software finalisiert. Der am 7. Januar veröffentlichte Entwurf der „Draft Lifecycle Guidance“ ergänzt diese finalisierte PCCP-Richtlinie. 

Inhalte des Richtlinienentwurfs (Draft Lifecycle Guidance)

 Der Richtlinienentwurf enthält Empfehlungen, die den verschiedenen Lebenszyklusphasen von KI-gestützten Medizinprodukten zugeordnet sind:

• Entwicklung: Risikobewertung, Datenmanagement sowie Modellbeschreibung und -entwicklung

• Validierung: Datenmanagement und Validierung

• Beschreibung des endgültigen Produkts: Produktbeschreibung, Modellbeschreibung und -entwicklung, Benutzeroberfläche und Kennzeichnung, Zusammenfassung der öffentlichen Einreichung

• Überwachung nach der Markteinführung: Leistungsüberwachung des Produkts und Cybersicherheit

Zwei wichtige Themen, die im Richtlinienentwurf eingehend behandelt werden, sind die Minimierung von Bias (Voreingenommenheit) und die Transparenz.

• Transparenz: Die Richtlinie schlägt die Verwendung von „Model Cards“ (mit zwei Beispielen in den Anhängen) und Usability-Evaluierungen vor (mit weiterer Erörterung in einem Anhang), um die Transparenz und das Verständnis der Nutzer zu stärken.

• Minimierung von Bias: Die Richtlinie hebt hervor, wie wichtig die Verwendung qualitativ hochwertiger und repräsentativer Datensätze ist, damit die Produkte über verschiedene demografische Gruppen hinweg sicher eingesetzt werden können.

Um Herstellern und Softwareentwicklern dabei zu helfen, die Berücksichtigung dieser Faktoren nachzuweisen, skizziert die Richtlinie auch die Dokumentationsanforderungen der FDA, unter anderem in Bezug auf Risikobewertungen, Produktbeschreibungen, Benutzeroberflächen und Kennzeichnungen.

 Obwohl der Richtlinienentwurf versucht, die Faktoren zu beschreiben, die Produkthersteller und Softwareentwickler bereits in den frühesten Phasen des Entwicklungslebenszyklus berücksichtigen sollten, empfiehlt er auch eine frühzeitige Abstimmung mit der FDA, um den Regulierungsprozess erfolgreich zu durchlaufen.

Enzai unterstützt Sie gerne

Die KI-GRC-Plattform von Enzai unterstützt Ihr Unternehmen dabei, KI in Übereinstimmung mit Best Practices sowie neuen Vorschriften, Standards und Frameworks wie dem EU AI Act, dem Colorado AI Act, dem NIST AI RMF und ISO/IEC 42001 einzusetzen. Um mehr zu erfahren, setzen Sie sich hier mit uns in Verbindung.

Enzai ist die führende Plattform für KI-Governance in Unternehmen, die speziell dafür entwickelt wurde, Organisationen beim Übergang von abstrakten Richtlinien zur operativen Aufsicht zu unterstützen. Unsere KI-Risikomanagement-Plattform bietet die spezialisierte Infrastruktur, die erforderlich ist, um die Governance von agentischer KI zu steuern, ein umfassendes KI-Inventar zu führen und die Einhaltung des EU AI Acts zu gewährleisten. Durch die Automatisierung komplexer Workflows ermöglicht Enzai es Unternehmen, die Einführung von KI vertrauensvoll zu skalieren und gleichzeitig die Ausrichtung an globalen Standards wie ISO 42001 und NIST sicherzustellen.