Il Regno Unito vuole usare il riconoscimento facciale per stimare l’età dei richiedenti asilo. Lo dice un rapporto interno dell’Home Office: i test mostrano errori frequenti, potenzialmente devastanti. Eppure si va avanti lo stesso.
Non è un caso isolato. In Europa, l’uso di sistemi biometrici su popolazioni vulnerabili cresce senza che la precisione venga garantita. Per le imprese italiane che lavorano con dati sensibili — sanità, assicurazioni, e-commerce con verifica età — la lezione è chiara: quando la tecnologia è imperfetta e si usa comunque, i costi (legali, reputazionali, umani) li paga qualcuno.
La nostra posizione
Noi, di Meteora Web, la vediamo così: l’AI va usata quando funziona, non quando fa comodo. Il falso positivo su un volto può significare respingere un minore o trattenere un adulto per giorni. Per le PMI italiane, lo stesso principio vale su tool di screening CV, chat bot cliente, verifica documentale. Se il modello sbaglia una volta su dieci, quel 10% è un cliente perso, una multa GDPR, una denuncia. Noi non affidiamo mai a un algoritmo una decisione che non possiamo verificare manualmente. Chi vende soluzioni AI “chiavi in mano” senza trasparenza sugli errori, sta vendendo fumo.
Sponsored Protocol
Il divario digitale non è solo geografico: è anche di consapevolezza. Molte PMI del Sud Italia acquistano sistemi di riconoscimento facciale per accessi o pagamenti senza sapere che le percentuali di errore variano in base a etnia, età, illuminazione. Il risultato? Clienti respinti, reclami, e nessun controllo. Noi, che veniamo dalla contabilità, sappiamo che ogni errore ha un costo in partita doppia. Se non lo calcoli prima, lo paghi dopo.
Sponsored Protocol
Cosa fare? Non abbandonare la tecnologia, ma esigere audit indipendenti. Per ogni sistema AI che impatta persone, chiedi: qual è il tasso di errore per la mia fascia demografica? Come lo correggiamo? Se il fornitore non risponde, cambia fornitore. L’Europa sta costruendo l’AI Act proprio per questo: serve a proteggere, non a frenare. Ma la regola da sola non basta: serve chi la fa rispettare.
