Una ricerca pubblicata il 30 luglio 2026 su MIT Technology Review mette nero su bianco quello che molti sviluppatori sospettavano da tempo: i grandi modelli linguistici (LLM) sono strutturalmente insicuri. Non è un bug da patchare – è un limite di progettazione. Nessun prompt engineering, nessun filtro, nessuna guardrail li renderà mai completamente immuni da attacchi. Il problema è radicato nel modo in cui apprendono.
Perché questa è una notizia politica e non solo tecnica? Perché l’Unione Europea sta investendo miliardi in AI Act, trustworthiness, certificazioni. Ma se il modello stesso è fragile per definizione, qualsiasi regolamento sull'output diventa un castello di carte. Le aziende che oggi integrano ChatGPT, Claude o Llama nei loro processi – CRM, assistenza clienti, generazione documenti – stanno costruendo su fondamenta che possono cedere con una semplice stringa ben costruita. Per le PMI italiane, che spesso non hanno nemmeno un reparto IT dedicato, il rischio è duplice: dati sensibili esposti e decisioni aziendali basate su output manipolati.
Sponsored Protocol
E attenzione: non è un problema di “hacker bravi”. È un problema di architettura. Se un modello può essere indotto con un jailbreak a rivelare la password del database, non è colpa del prompt – è colpa di chi ha delegato la sicurezza a un sistema che non può garantire confini. Noi, di Meteora Web, lo vediamo ogni giorno nei progetti che ci arrivano: form senza protezione, credenziali in chiaro, backup mai configurati. Con le LLM il salto di scala è enorme: non serve più un attacco mirato, basta un utente malintenzionato con un prompt ben scritto.
Sponsored Protocol
La nostra posizione è chiara: le LLM non vanno usate come scatole nere in produzione
Non siamo contro l’AI – anzi, l’usiamo nei nostri progetti (Laravel, Livewire, strumenti interni). Ma l’AI amplifica, non sostituisce. Ogni output va verificato da chi sa. E ogni integrazione va progettata con un presupposto: il modello è insicuro. Significa mai dargli accesso diretto a dati sensibili, mai fargli eseguire azioni critiche senza controllo umano, mai fidarsi della sua “allineamento”. Per l’Europa, la strada è obbligata: invece di inseguire certificazioni impossibili, bisogna imporre per legge che le LLM siano usate solo in ambienti sandboxati, con audit di sicurezza obbligatori prima del deploy. L’Italia, con la sua densità di PMI, può diventare laboratorio di buone pratiche – o il prossimo teatro di un incidente sistemico.
Sponsored Protocol
Cosa fare, subito? Se usi un LLM in azienda: 1) Blocca ogni accesso diretto a dati utente o interni; un modello che genera testi non ha bisogno di vedere il database. 2) Metti un layer di validazione umana su ogni output che impatta decisioni o comunicazioni. 3) Fai un penetration test specifico sul tuo sistema AI – non sul sito, sull'integrazione LLM. Noi lo facciamo sui nostri progetti da anni. Inizia da lì.
