Hai un sistema AI in produzione o in fase di sviluppo. E ora arriva l’EU AI Act. La prima domanda non è tecnica, è di classe: in quale categoria di rischio rientra il tuo sistema? Sbagliare la classificazione significa esporsi a multe fino a 35 milioni di euro o al 7% del fatturato globale annuo. Non è una questione accademica: è una scelta che può chiudere un’azienda.
Noi di Meteora Web lavoriamo ogni giorno con PMI e sviluppatori che stanno integrando l’AI nei propri prodotti. Veniamo dalla contabilità e dall’ERP: per noi la classificazione dei rischi è un bilancio preventivo, non una checklist astratta. In questa guida ti spieghiamo come distinguere i quattro livelli di rischio previsti dal Regolamento (UE) 2024/1689 — inaccettabile, alto, limitato, minimo — e cosa devi fare concretamente per il tuo sistema.
Perché la classificazione è il tuo primo step di compliance
L’EU AI Act non si applica a tutti i sistemi AI allo stesso modo. Più alto è il rischio, più obblighi hai. Sbagliare la categoria — ad esempio classificare un sistema ad alto rischio come a rischio limitato — significa violare la legge, con sanzioni salate. Invece, classificare correttamente ti permette di concentrare le risorse dove servono: spendi tempo e denaro solo per ciò che è obbligatorio, e niente di più.
La classificazione si basa su due criteri principali: lo scopo del sistema e il contesto d’uso. Non è solo cosa fa l’AI, ma chi la usa e quali conseguenze può generare. Ad esempio, un chatbot per il servizio clienti è a rischio minimo. Lo stesso motore conversazionale usato per diagnosticare una malattia è ad alto rischio. Stessa tecnologia, contesto diverso.
I quattro livelli di rischio spiegati con esempi reali
Rischio inaccettabile — sistemi vietati
Qui non c’è margine: questi sistemi sono proibiti nel mercato europeo. L’EU AI Act li elenca all’articolo 5. Tra questi:
- Manipolazione cognitivo-comportamentale subliminale (es. giocattoli che incentivano comportamenti pericolosi senza che il genitore se ne accorga).
- Social scoring basato su dati comportamentali o biometrici.
- Identificazione biometrica in tempo reale in spazi pubblici per finalità di polizia (con eccezioni molto strette).
- Estrazione di immagini facciali da internet per creare database di riconoscimento.
Esempio concreto: Un’app che usa il microfono dello smartphone per analizzare le emozioni dei bambini durante i giochi e suggerire acquisti mirati. Vietata. Se la stai sviluppando, fermati e cambia approccio.
Rischio alto — conformità obbligatoria
Questa è la categoria più corposa e quella che interessa la maggior parte delle PMI che sviluppano AI. I sistemi ad alto rischio devono soddisfare requisiti stringenti: valutazione del rischio, trasparenza, documentazione tecnica, registrazione nel database UE, supervisione umana, ecc.
Quali sistemi sono ad alto rischio? L’Allegato III del Regolamento elenca 8 aree, tra cui:
- Biometria e identificazione delle persone.
- Gestione delle infrastrutture critiche (es. traffico, energia, acqua).
- Istruzione e formazione professionale (valutazione degli studenti, accesso a corsi).
- Occupazione, gestione dei lavoratori, selezione del personale.
- Accesso a servizi essenziali pubblici e privati (credito, assicurazioni, sanità).
- Forze dell’ordine, giustizia, asilo e controllo delle frontiere.
Esempio operativo: Un software HR che analizza i curriculum e dà un punteggio di “idoneità” per un posto di lavoro. È ad alto rischio perché può determinare l’accesso all’occupazione. Devi documentarlo, fare un impact assessment, garantire la trasparenza sui criteri decisionali.
Attenzione: Anche se il tuo sistema non rientra esattamente in una delle categorie dell’Allegato III, può comunque essere considerato ad alto rischio se profilà o valuta persone in modo da influenzare significativamente i loro diritti. Un sistema di raccomandazione di contenuti per minori? Probabilmente no. Un sistema di diagnosi medica assistita? Sì.
Rischio limitato — obblighi di trasparenza
I sistemi a rischio limitato hanno solo obblighi di trasparenza: devi informare l’utente che sta interagendo con un’AI, o che i contenuti sono generati artificialmente (deep fake, chatbot, ecc.). Non servono valutazioni complesse, ma devi poter provare che l’utente è stato informato.
Esempio: Un assistente vocale per prenotare appuntamenti dal parrucchiere. Basta un messaggio iniziale: “Stai parlando con un assistente AI. Puoi chiedere di parlare con un operatore in qualsiasi momento.”
Rischio minimo — nessun obbligo
Qui cadono i sistemi AI che non rientrano nelle categorie precedenti. Ad esempio: un filtro antispam, un motore di raccomandazione di film, un sistema di ottimizzazione del magazzino. Nessun obbligo specifico, ma resta l’obbligo generale di non violare altre leggi (es. GDPR).
Attenzione: Il rischio minimo non esonera da responsabilità se il sistema causa danni. L’AI non è una giungla senza regole.
Come classificare il tuo sistema: una procedura operativa
Non basta leggere l’Allegato III. Devi fare un’analisi sistematica. Noi, di Meteora Web, consigliamo questo percorso in 5 passi:
- Descrivi il sistema: scopo, input, output, utenti target, contesto di deployment.
- Verifica l’articolo 5: se rientra nei divieti, stop. Non puoi commercializzarlo in UE. Modificalo o abortisci.
- Verifica l’Allegato III: se l’area di utilizzo è una delle 8 elencate, sei presumibilmente ad alto rischio. Controlla le eccezioni: se il sistema è solo un “miglioramento marginale” o non produce un output sostanziale, potrebbe essere escluso.
- Valuta l’impatto: anche se non nell’Allegato III, il sistema può comunque essere classificato ad alto rischio se coinvolge profilazione di persone fisiche (art. 6(2)).
- Documenta la decisione: tieni traccia scritta del ragionamento. In caso di ispezione, devi dimostrare di aver classificato correttamente.
Strumento decisionale — pseudo-codice per orientarsi
Puoi tradurre questa logica in un semplice script per aiutare il team a fare un primo screening. Ecco una funzione in JavaScript (adattabile a qualsiasi linguaggio) che restituisce la categoria di rischio basata su input booleani:
function classifyAISystem(system) {
// system.area = 'biometrics' | 'critical-infra' | 'education' | 'employment' | ... | null
// system.isProfiling = true/false
// system.isBannedPractice = true/false
// system.isDeceiving = true/false (art. 5)
if (system.isBannedPractice || system.isDeceiving) {
return 'inaccettabile';
}
const highRiskAreas = [
'biometrics', 'critical-infra', 'education', 'employment',
'essential-services', 'law-enforcement', 'justice', 'migration'
];
if (highRiskAreas.includes(system.area) || system.isProfiling) {
return 'alto';
}
// Se il sistema è un chatbot, assistente vocale, generazione contenuti?
if (system.isTransparencyRequired) {
return 'limitato';
}
return 'minimo';
}Ovviamente è una semplificazione: la classificazione reale richiede un’analisi giuridica approfondita. Ma ti dà una bussola iniziale.
Errori comuni nella classificazione
- Sottovalutare il contesto: un sistema che in un ufficio è a rischio minimo, se usato in un processo di selezione del personale diventa ad alto rischio.
- Confondere “AI generativa” con “rischio limitato”: un generatore di immagini AI non è automaticamente a rischio limitato. Se viene usato per creare deep fake a fini fraudolenti, può diventare inaccettabile. Il rischio dipende dall’uso.
- Non considerare la profilazione: anche se non sei in una delle aree dell’Allegato III, se il sistema valuta attributi personali (affidabilità creditizia, attitudini psicologiche, ecc.) sei ad alto rischio.
- Dimenticare la documentazione: la compliance non è solo tecnica, è anche documentale. Se non hai scritto da nessuna parte perché hai classificato il sistema come “rischio limitato”, un’ispezione ti metterà in difficoltà.
Cosa fare adesso — checklist operativa
Se hai un sistema AI (o lo stai sviluppando), parti da qui:
- Fai un audit preliminare usando la procedura in 5 passi sopra. Coinvolgi anche un consulente legale specializzato.
- Se il sistema è a rischio inaccettabile: non commercializzarlo in UE. Rivedi l’idea.
- Se è ad alto rischio: preparati a redigere la documentazione tecnica, effettuare una valutazione d’impatto, implementare supervisione umana e registrare il sistema nel database UE (gestito dalla Commissione).
- Se è a rischio limitato: implementa meccanismi di trasparenza (ad es. un banner di informazione per chatbot, un watermark per contenuti generati).
- Se è a rischio minimo: nessun obbligo specifico, ma monitora eventuali aggiornamenti normativi. Il confine può cambiare.
- Documenta ogni decisione: tieni un registro della classificazione con data e motivazione.
Ricorda: l’EU AI Act è una legge viva. La Commissione pubblicherà linee guida e aggiornamenti periodici. Noi di Meteora Web continuiamo a seguire le evoluzioni per conto dei nostri clienti. Se vuoi approfondire, consulta la guida pillar completa sull’EU AI Act.
