HR als Kernbereich des EU AI Act
Annex III Nr. 4 der Verordnung (EU) 2024/1689 listet KI-Systeme in Beschäftigung, Personalmanagement und Zugang zu selbstständiger Erwerbstätigkeit explizit als Hochrisiko auf. Das umfasst:
- KI-Systeme zur Einstellung und Auswahl von Bewerbern (Screening, Ranking, Vorauswahl)
- KI für Beförderungsentscheidungen und Aufgabenzuweisung
- KI zur Leistungsüberwachung und -bewertung von Beschäftigten
- KI für Kündigungsentscheidungen
Typische Hochrisiko-Szenarien im HR
| Anwendung | Hochrisiko? | Begründung |
|---|---|---|
| CV-Screening / Bewerber-Ranking | Ja | Annex III Nr. 4 – Einstellung |
| Video-Interview-Analyse | Ja | Annex III Nr. 4 + Nr. 1 (Biometrie) |
| Performance-Scoring von Mitarbeitenden | Ja | Annex III Nr. 4 – Leistungsbewertung |
| Beförderungsempfehlungen | Ja | Annex III Nr. 4 – Beförderung |
| Emotionserkennung am Arbeitsplatz | Verboten | Art. 5 – Verbotene Praktiken |
| Terminplanung / Schichtplanung | Nein | Keine Auswirkung auf Grundrechte |
| Chatbot für HR-FAQ | Nein | Art. 50 Transparenzpflicht genügt |
Besondere Diskriminierungsrisiken
HR-KI birgt besonders hohe Diskriminierungsrisiken. Der EU AI Act verlangt daher umfassende Massnahmen:
- Daten-Governance (Art. 10) – Trainingsdaten müssen auf Bias geprüft werden. Historische Einstellungsdaten können diskriminierende Muster enthalten.
- Genauigkeit und Robustheit (Art. 15) – Leistungsmetriken müssen für verschiedene demografische Gruppen getrennt ausgewiesen werden.
- Menschliche Aufsicht (Art. 14) – KI-Empfehlungen dürfen nicht automatisch umgesetzt werden. Human-in-the-Loop ist Pflicht.
Parallel gelten die EU-Antidiskriminierungsrichtlinien: Richtlinie 2000/43/EG (Antirassismusrichtlinie), Richtlinie 2000/78/EG (Gleichbehandlungsrahmenrichtlinie) und in Deutschland das AGG (Allgemeines Gleichbehandlungsgesetz).
FRIA-Pflicht im HR
Nach Art. 27 EU AI Act müssen Betreiber von HR-KI-Systemen nach Annex III Nr. 4 eine Grundrechtliche Folgenabschätzung (FRIA) durchführen. Besonderer Fokus:
- Nichtdiskriminierung (Art. 21 EU-GRC) – Risiken bei Geschlecht, Alter, Herkunft, Behinderung
- Recht auf Arbeit (Art. 15 EU-GRC) – Zugang zur Beschäftigung
- Gerechte Arbeitsbedingungen (Art. 31 EU-GRC) – Bei Leistungsüberwachung
- Datenschutz (Art. 8 EU-GRC) – Verarbeitung von Bewerberdaten
Besonderheit: Betriebsrat und Mitbestimmung
In Deutschland, Österreich und anderen EU-Ländern haben Betriebsräte ein Mitbestimmungsrecht bei der Einführung technischer Überwachungseinrichtungen (§ 87 Abs. 1 Nr. 6 BetrVG in Deutschland). KI-Systeme im HR lösen diese Mitbestimmung fast immer aus.
Tipp: Die EU AI Act Dokumentation (insbesondere die Technische Dokumentation und der Transparenzhinweis) dient gleichzeitig als Grundlage für die Betriebsratsanhörung.
Dokumentationspflichten für HR-KI
- Technische Dokumentation – Für Anbieter von HR-KI-Tools
- Transparenzhinweis – Bewerber und Mitarbeitende müssen über den KI-Einsatz informiert werden
- FRIA – Für Betreiber (HR-Abteilungen, die ein externes Tool einsetzen)
- Bias-Dokumentation – Nachweis der Fairness-Prüfung für verschiedene demografische Gruppen
Nächste Schritte
- Inventar – Welche KI-Tools nutzt Ihre HR-Abteilung?
- Risiko-Check – Kostenlos prüfen, ob ein Hochrisiko-System vorliegt
- Betriebsrat einbeziehen – Frühzeitig informieren und Dokumentation bereitstellen
- Dokumentation erstellen – Compliance-Entwürfe generieren mit HR-spezifischem Kontext