In einer durch den Bitkom organisierten Vortragssession auf der MedtecLIVE 2024 beleuchteten Branchenexperten - unter anderen Konstanze Olschewski von PHNX ALPHA - die spezifischen Anforderungen aber auch Lösungsansätze für die Regulierung von KI und die Vereinbarkeit von Innovation, regulatorischer Compliance und Patientensicherheit.
Wir haben die wichtigsten Kernaussagen des MedtecLIVE-Beitrages für Sie zusammen gefasst:
- nach Einschätzung der Regulierungsexperten werden Medizinprodukte der Klassen 2a, 2b und 3 automatisch als Hochrisiko-KI-Systeme eingestuft, was zusätzliche Überwachungs- und Compliance-Maßnahmen erforderlich macht
Einstufung als
Hochrisikosystem
Medizinprodukte
der Klasse 2a
Medizinprodukte
der Klasse 2b
Medizinprodukte
der Klasse 3
- nach Einschätzung der Regulierungsexperten werden Medizinprodukte der Klassen 2a, 2b und 3 automatisch als Hochrisiko-KI-Systeme eingestuft, was zusätzliche Überwachungs- und Compliance-Maßnahmen erforderlich macht
Inkrafttreten
des
Gesetzes
Verbot für
inakzeptable
Risikosysteme
01.02.2025
Anforderungen
für universelle
KI-Modelle
01.08.2025
Anforderungen für
Hochrisikosysteme
01.08.2026 -
01.08.2027
- Beginn der Risikobewertung in den frühesten Phasen der KI-Systementwicklung
- Implementierung von strukturierten Risikobewertungsprozessen (Technik & Patientensicherheit)
- Einbindung diverser Expertisen (klinische, technische und regulatorische Perspektiven)
- Dokumentation von Risikobewertungsprozessen, Risikominderungsstrategien und laufenden Überwachungspläne
- Langfristige KI-Leistung sicherstellen
Kontinuierliche KI-Überwachung
Die kontinuierliche Überwachung von KI-Systemen im Gesundheitswesen ist essenziell, da die Modellleistung im Laufe der Zeit erheblich nachlassen kann. Praxisfälle haben dramatische Leistungsverschlechterungen gezeigt - in einer industriellen Anwendung sank die Modellgenauigkeit innerhalb von nur 16 Wochen nach Deployment auf das Zufallsniveau (50% Genauigkeit). Diese Verschlechterung ist besonders besorgniserregend bei medizinischen Anwendungen, wo Vorschriften vorschreiben, dass die Leistung nach der Implementierung nicht abnehmen darf.
Informieren Sie sich frühzeitig über die Änderungen der Medical Device Regulation (MDR) und dem Artificial Intelligence Act (AI Act), die einen Rahmen für den Einsatz von Künstlicher Intelligenz (KI) in der Medizintechnik schaffen.
Vereinbaren Sie direkt einen Termin für ein persönliches Gespräch.
Sie sind noch nicht soweit, möchten aber auf dem Laufenden bleiben?
Folgen Sie uns auf Linkedin oder abonnieren Sie unseren Newsletter:
