Sistemi di IA ad alto rischio: tutte le 8 categorie dell'Allegato III

Cosa sono i sistemi di IA ad alto rischio?

Art. 6, paragrafo 2, del regolamento (UE) 2024/1689 stabilisce: un sistema di IA è ad alto rischio se viene utilizzato in uno degli ambiti elencati nell'Allegato III e presenta un rischio significativo per la salute, la sicurezza o i diritti fondamentali delle persone fisiche.

I sistemi di IA ad alto rischio sono soggetti agli obblighi più completi dell'EU AI Act – tra cui la Documentazione tecnica, il sistema di gestione dei rischi, la governance dei dati, la sorveglianza umana e la FRIA.

Le 8 categorie dell'Allegato III

1. Biometria

Sistemi di IA per l'identificazione biometrica a distanza in tempo reale e a posteriori, la categorizzazione biometrica e il riconoscimento delle emozioni sul luogo di lavoro o negli istituti di istruzione.

Esempi: Riconoscimento facciale negli spazi pubblici, controlli di accesso biometrici, riconoscimento delle emozioni durante gli esami.

2. Infrastrutture critiche

Sistemi di IA utilizzati come componenti di sicurezza nella gestione e nel funzionamento di infrastrutture digitali critiche, del traffico stradale, dell'approvvigionamento idrico, del gas, del riscaldamento e dell'elettricità.

Esempi: Sistemi di gestione del traffico controllati dall'IA, ottimizzazione delle reti energetiche, componenti di veicoli autonomi.

3. Istruzione e formazione professionale

Sistemi di IA per determinare l'accesso agli istituti di istruzione, valutare i risultati di apprendimento, determinare il livello di istruzione e sorvegliare gli esami.

Esempi: Selezione automatizzata delle candidature per le università, sistemi di valutazione basati sull'IA, software di sorveglianza degli esami.

4. Occupazione, gestione dei lavoratori e accesso al lavoro autonomo

Sistemi di IA per l'assunzione, la promozione, il licenziamento, l'assegnazione dei compiti, il monitoraggio e la valutazione delle prestazioni nel contesto lavorativo.

Esempi: Strumenti di screening dei CV, analisi di colloqui video assistita dall'IA, sistemi di gestione delle prestazioni, raccomandazioni di promozione.

Nota: Questa categoria è particolarmente rilevante per i dipartimenti HR. Le direttive europee antidiscriminazione si applicano in parallelo.

5. Accesso a servizi privati e pubblici essenziali e fruizione degli stessi

Suddiviso in diverse sottocategorie:

• 5(a) – Valutazione del merito creditizio delle persone fisiche (esclusa la rilevazione di frodi finanziarie)
• 5(b) – Valutazione del rischio e determinazione dei prezzi nell'assicurazione vita e malattia

Esempi: Credit scoring, tariffazione assicurativa. Particolarmente rilevante per il settore finanziario.

6. Attività di contrasto

Sistemi di IA per la valutazione del rischio di criminalità, poligrafi e strumenti simili, valutazione dell'affidabilità delle prove, profilazione delle persone.

Esempi: Polizia predittiva, analisi automatizzata delle prove, valutazione del rischio di recidiva.

7. Migrazione, asilo e controllo delle frontiere

Sistemi di IA per la valutazione dei rischi legati alla migrazione, il trattamento delle domande di asilo, il controllo delle frontiere e il trattamento dei visti.

Esempi: Esame automatizzato delle domande di visto, valutazione del rischio dei viaggiatori, verifica dei documenti.

8. Amministrazione della giustizia e processi democratici

Sistemi di IA per assistere nell'interpretazione dei fatti e del diritto, nell'applicazione del diritto e nell'influenza sulle elezioni.

Esempi: Sistemi di supporto alle decisioni giudiziarie, analisi giuridica automatizzata, influenza elettorale tramite microtargeting.

Obblighi per i sistemi di IA ad alto rischio

Per ogni sistema di IA ad alto rischio si applicano obblighi completi:

Il vostro sistema è ad alto rischio?

Utilizzate la nostra analisi del rischio gratuita per determinare in 2 minuti se il vostro sistema di IA rientra nell'Allegato III. In caso di classificazione ad alto rischio, potete generare direttamente le bozze di conformità richieste.