Il fatto è semplice e spaventoso. Attaccanti hanno utilizzato l’agente di supporto AI di Meta per rubare account Instagram. Nessun exploit complesso, nessun zero-day: hanno sfruttato il chatbot stesso, manipolandolo con richieste social engineering fino a ottenere il reset delle password. L’AI che doveva proteggere è diventata la porta d’ingresso.
Perché questa storia conta per l’Europa e per l’Italia? Perché smonta tre illusioni pericolose. La prima: «la regolamentazione ci salverà». L’EU AI Act impone trasparenza e valutazioni di rischio, ma questo attacco non viola alcun principio GDPR o AI Act. Era un attacco tecnico di manipolazione del modello, non un problema di dati. La seconda illusione: «l’AI dei big tech è sicura». Meta ha fallito, e non per cattiva volontà: la sicurezza dei modelli conversazionali è ancora terra di nessuno. La terza, la più dolorosa per le PMI italiane: «tanto a me non succede». Se un colosso come Meta viene bucato via AI, cosa può succedere a un’azienda di moda di Catania che ha messo un chatbot su WhatsApp per gestire i resi?
La nostra posizione è chiara: l’AI amplifica i rischi, non li crea ex novo. E in Italia la sicurezza informatica nelle PMI è già sistematicamente sottovalutata.
Noi, di Meteora Web, lo vediamo ogni giorno: form senza protezione, backup mai configurati, credenziali in chiaro. Ora aggiungiamo chatbot AI che parlano con i clienti e possono compiere azioni critiche. Se un attaccante convince il bot a resettare una password, il danno è immediato. La normativa europea è un passo avanti, ma non basta. Servono obblighi concreti: penetration testing obbligatorio per ogni sistema AI che interagisce con utenti, limiti precisi alle azioni che un modello può compiere autonomamente, e audit periodici. Non possiamo lasciare la sicurezza alla buona volontà delle aziende, soprattutto quando le vittime sono i piccoli imprenditori che non hanno un CISO.
Cosa fare, subito. Se hai un chatbot sul tuo sito o su un social: blocca ogni azione sensibile (reset password, modifica dati, pagamenti) e falla passare obbligatoriamente per un operatore umano dopo verifica. Installa un sistema di logging che registri ogni interazione con il bot e attivi alert per comportamenti anomali. E se sei uno sviluppatore: non vendere mai l’AI come «sicura di default». La sicurezza si progetta, si testa e si aggiorna. Inizia oggi.
Sponsored Protocol
