Warum die Industrie vom EU AI Act betroffen ist
KI in der Industrie fällt primär über Annex III Kategorie 2 unter den EU AI Act: KI-Systeme, die als Sicherheitskomponenten in der Verwaltung und dem Betrieb kritischer digitaler Infrastruktur, im Strassenverkehr oder in der Wasser-, Gas-, Heizungs- und Stromversorgung eingesetzt werden sollen.
Zusätzlich erfasst Artikel 6(1) KI, die eine Sicherheitskomponente eines Produkts ist, das unter harmonisierte EU-Rechtsvorschriften fällt — einschliesslich der neuen Maschinenverordnung (EU) 2023/1230, die die Maschinenrichtlinie 2006/42/EG ab 20. Januar 2027 ersetzt.
Typische Hochrisiko-Szenarien in der Industrie
| Anwendung | EU AI Act Grundlage | Zusätzliche Regulierung |
|---|---|---|
| Arbeitssicherheitsüberwachung (PSA, Gefahrenzonen) | Annex III Nr. 2 | Maschinenverordnung 2023/1230 |
| Autonome mobile Roboter (AMR) | Art. 6(1) + Annex I | Maschinenverordnung 2023/1230 |
| Qualitätskontrolle (Computer Vision) | Meist kein Hochrisiko | — |
| Vorausschauende Wartung | Minimales Risiko (ausser sicherheitsrelevant) | — |
| Kollaborative Roboter (Cobots) mit KI | Art. 6(1) + Annex I | Maschinenverordnung 2023/1230, ISO 10218 |
| KI-gestützte Prozessoptimierung | Meist minimales Risiko | — |
Maschinenverordnung und EU AI Act im Zusammenspiel
Die neue Maschinenverordnung (EU) 2023/1230 adressiert explizit KI. Artikel 5 und Annex III verlangen, dass Maschinen mit KI-basierten Sicherheitsfunktionen ein Konformitätsbewertungsverfahren durchlaufen, das die spezifischen Risiken maschineller Lernsysteme berücksichtigt — einschliesslich nicht-deterministischem Verhalten, Datenqualität und Cybersicherheit.
Für KI, die eine Sicherheitskomponente von Maschinen ist, erfüllt die Konformitätsbewertung nach der Maschinenverordnung auch die Anforderungen des EU AI Act (Artikel 43(1)). Anbieter müssen jedoch weiterhin die vollständige Technische Dokumentation nach Annex IV EU AI Act führen.
Arbeitnehmerüberwachung und Datenschutz
KI-basierte Arbeitnehmerüberwachung (z.B. PSA-Erkennung, Haltungsanalyse, Zonenüberwachung) löst zusätzliche Compliance-Pflichten aus:
- GDPR Art. 35 – Datenschutz-Folgenabschätzung (DSFA) erforderlich bei systematischer Überwachung von Beschäftigten
- Betriebsratsbeteiligung – In vielen EU-Mitgliedstaaten müssen Arbeitnehmervertreter vor der Einführung von KI zur Arbeitsplatzüberwachung konsultiert werden
- Biometrische Daten – Verarbeitet das System biometrische Daten (Gesichtserkennung, Ganganalyse), gilt DSGVO Artikel 9 mit strengeren Einwilligungsanforderungen
Dokumentationspflichten für industrielle KI
Für Anbieter und Betreiber von Hochrisiko-KI in der Industrie:
- Technische Dokumentation nach Annex IV – einschliesslich Systemarchitektur, Trainingsdaten-Spezifikationen und Leistungsmetriken für sicherheitskritische Funktionen
- Transparenzhinweis – Von der KI betroffene Arbeitnehmer müssen über Zweck, Fähigkeiten und Grenzen des Systems informiert werden (Art. 13 + Art. 26)
- FRIA – Empfohlen für Betreiber in der Industrie, Pflicht für öffentliche Betreiber nach Art. 27
Marktüberwachung für industrielle KI
Für KI-Sicherheitskomponenten in Maschinen liegt die Marktüberwachung bei den bestehenden Produktsicherheitsbehörden (z.B. BNetzA/BAuA in Deutschland, AESIA in Spanien, SUVA in der Schweiz). Für eigenständige KI-Systeme nach Annex III sind die nationalen KI-Marktüberwachungsbehörden zuständig.
Nächste Schritte für Ihre Organisation
- Inventar – Listen Sie alle KI-Systeme auf: sicherheitskritisch, Qualität, Logistik, Wartung
- Klassifizierung – Nutzen Sie den kostenlosen Risiko-Check um festzustellen, welche Systeme unter Hochrisiko fallen
- Maschinenverordnungs-Prüfung – Klären Sie mit Ihrer Benannten Stelle, ob KI-Komponenten sicherheitsrelevant sind
- Dokumentation – Erstellen Sie Ihre Compliance-Dokumentation