Was sind Hochrisiko-KI-Systeme?
Art. 6 Abs. 2 der Verordnung (EU) 2024/1689 definiert: Ein KI-System ist hochriskant, wenn es in einem der in Annex III aufgeführten Bereiche eingesetzt wird und ein erhebliches Risiko für Gesundheit, Sicherheit oder Grundrechte natürlicher Personen birgt.
Hochrisiko-KI-Systeme unterliegen den umfassendsten Pflichten des EU AI Act – darunter Technische Dokumentation, Risikomanagementsystem, Daten-Governance, menschliche Aufsicht und FRIA.
Die 8 Kategorien nach Annex III
1. Biometrie
KI-Systeme zur biometrischen Fernidentifizierung in Echtzeit und nachträglich, biometrische Kategorisierung und Emotionserkennung am Arbeitsplatz oder in Bildungseinrichtungen.
Beispiele: Gesichtserkennung in öffentlichen Räumen, biometrische Zugangskontrollen, Emotionserkennung bei Prüfungen.
2. Kritische Infrastruktur
KI-Systeme als Sicherheitskomponenten in der Verwaltung und dem Betrieb kritischer digitaler Infrastruktur, Strassenverkehr, Wasser-, Gas-, Wärme- und Stromversorgung.
Beispiele: KI-gesteuerte Verkehrsleitsysteme, Energienetz-Optimierung, autonome Fahrzeugkomponenten.
3. Allgemeine und berufliche Bildung
KI-Systeme zur Bestimmung des Zugangs zu Bildungseinrichtungen, zur Bewertung von Lernergebnissen, zur Festlegung des Bildungsniveaus und zur Überwachung von Prüfungen.
Beispiele: Automatisierte Bewerbungsselektion für Universitäten, KI-Bewertungssysteme, Proctoring-Software.
4. Beschäftigung, Personalmanagement und Zugang zu selbstständiger Erwerbstätigkeit
KI-Systeme für Einstellung, Beförderung, Kündigung, Aufgabenzuweisung, Leistungsüberwachung und -bewertung im Arbeitskontext.
Beispiele: CV-Screening-Tools, KI-gestützte Video-Interview-Analyse, Performance-Management-Systeme, Beförderungsempfehlungen.
Hinweis: Diese Kategorie ist besonders relevant für HR-Abteilungen. Das AGG (Allgemeines Gleichbehandlungsgesetz) und die EU-Antidiskriminierungsrichtlinien gelten parallel.
5. Zugang zu und Inanspruchnahme von wesentlichen privaten und öffentlichen Diensten
Unterteilt in mehrere Unterkategorien:
- 5(a) – Kreditwürdigkeitsbewertung natürlicher Personen (ausser Aufdeckung von Finanzbetrug)
- 5(b) – Risikobewertung und Preisgestaltung in der Lebens- und Krankenversicherung
Beispiele: Kredit-Scoring, Versicherungstarifierung. Besonders relevant für die Finanzbranche.
6. Strafverfolgung
KI-Systeme für Risikobewertung von Straftaten, Polygraphen und ähnliche Werkzeuge, Bewertung der Zuverlässigkeit von Beweismitteln, Profiling von Personen.
Beispiele: Predictive Policing, automatisierte Beweismittelanalyse, Rückfallrisikobewertung.
7. Migration, Asyl und Grenzkontrolle
KI-Systeme für Risikobewertung im Zusammenhang mit Migration, Bearbeitung von Asylanträgen, Grenzkontrolle und Visabearbeitung.
Beispiele: Automatisierte Prüfung von Visumanträgen, Risikobewertung von Einreisenden, Dokumentenprüfung.
8. Rechtspflege und demokratische Prozesse
KI-Systeme zur Unterstützung der Auslegung von Sachverhalten und Rechtsvorschriften, zur Anwendung des Rechts und zur Beeinflussung von Wahlen.
Beispiele: Richterliche Entscheidungsunterstützungssysteme, automatisierte Rechtsanalyse, Wahlbeeinflussung durch Microtargeting.
Pflichten für Hochrisiko-KI-Systeme
Für jedes Hochrisiko-KI-System gelten umfassende Pflichten:
| Pflicht | Artikel | Verantwortlich |
|---|---|---|
| Risikomanagementsystem | Art. 9 | Anbieter |
| Daten-Governance | Art. 10 | Anbieter |
| Technische Dokumentation | Art. 11 + Annex IV | Anbieter |
| Aufzeichnungspflicht | Art. 12 | Anbieter |
| Transparenz und Informationen | Art. 13 | Anbieter |
| Menschliche Aufsicht | Art. 14 | Anbieter + Betreiber |
| Genauigkeit, Robustheit, Cybersicherheit | Art. 15 | Anbieter |
| FRIA | Art. 27 | Betreiber |
| Konformitätsbewertung | Art. 43 | Anbieter |
| EU-Datenbank-Registrierung | Art. 49 | Anbieter + Betreiber |
Ist Ihr System hochriskant?
Nutzen Sie unseren kostenlosen Risiko-Check, um in 2 Minuten zu prüfen, ob Ihr KI-System unter Annex III fällt. Bei Hochrisiko-Einstufung können Sie direkt die erforderlichen Compliance-Entwürfe generieren.