Warum das Gesundheitswesen besonders betroffen ist
KI-Systeme im Gesundheitswesen fallen gleich über zwei Wege unter den EU AI Act:
- Annex III Nr. 2 – KI als Sicherheitskomponente in kritischer digitaler Infrastruktur, einschliesslich Triage und Priorisierung bei Notrufen
- Annex I (ab August 2027) – KI als Sicherheitskomponente in Medizinprodukten (Klasse IIa und höher nach MDR)
Das bedeutet: Viele Gesundheits-KI-Systeme müssen sowohl die EU AI Act Anforderungen als auch die Medizinprodukte-Verordnung (MDR, Verordnung (EU) 2017/745) erfüllen.
Typische Hochrisiko-Szenarien
| Anwendung | Annex III Kategorie | Zusätzliche Regulierung |
|---|---|---|
| Radiologie-Diagnostik (CT/MRT-Analyse) | Annex I (Medizinprodukt) | MDR Klasse IIa+ |
| Triage-Systeme in Notaufnahmen | Nr. 2 | — |
| KI-gestützte Behandlungsplanung | Annex I (Medizinprodukt) | MDR |
| Arzneimittel-Interaktionsprüfung | Annex I (ggf.) | MDR/IVDR |
| Patientenüberwachung (ICU) | Nr. 2 / Annex I | MDR Klasse IIb+ |
| Verwaltungs-KI (Terminplanung etc.) | Meist kein Hochrisiko | — |
Besonderheit: MDR und EU AI Act im Zusammenspiel
Für KI-Systeme, die als Medizinprodukte eingestuft sind, gilt:
- Die MDR-Konformitätsbewertung (durch Benannte Stellen) deckt auch die EU AI Act Anforderungen ab (Art. 43 Abs. 1 EU AI Act)
- Die Technische Dokumentation muss sowohl MDR Annex II als auch EU AI Act Annex IV erfüllen
- Das Risikomanagementsystem nach ISO 14971 (MDR) muss um EU AI Act-spezifische Anforderungen ergänzt werden
- Die klinische Bewertung (MDR) und die Leistungsmetriken (EU AI Act Art. 15) überschneiden sich teilweise
Frist: KI in Medizinprodukten nach Annex I fällt erst ab August 2027 unter den EU AI Act. Autonome KI-Systeme im Gesundheitswesen nach Annex III sind bereits ab August 2026 erfasst.
Dokumentationspflichten für Gesundheits-KI
Für Anbieter von Hochrisiko-KI im Gesundheitsbereich:
- Technische Dokumentation nach Annex IV – mit besonderem Fokus auf klinische Validierung und Bias in medizinischen Datensätzen
- Transparenzhinweis – Patienten müssen informiert werden, dass KI an Entscheidungen beteiligt ist (Art. 13 + Art. 50)
- FRIA – Für öffentliche Gesundheitseinrichtungen Pflicht nach Art. 27
Marktüberwachung im Gesundheitssektor
Die Marktüberwachung für KI in Medizinprodukten liegt bei den bestehenden Benannten Stellen und nationalen Behörden für Medizinprodukte (z.B. BfArM in Deutschland). Für KI-Systeme nach Annex III (nicht als Medizinprodukt) sind die jeweiligen KI-Marktüberwachungsbehörden zuständig.
Nächste Schritte für Ihre Organisation
- Inventar – Listen Sie alle KI-Systeme im Einsatz und in Entwicklung auf
- Klassifizierung – Nutzen Sie den kostenlosen Risiko-Check
- MDR-Prüfung – Klären Sie mit Ihrer Benannten Stelle, ob ein Medizinprodukt vorliegt
- Dokumentation – Starten Sie mit der Compliance-Dokumentation