Una nuova minaccia informatica sta sfruttando una debolezza fondamentale dei modelli linguistici di grandi dimensioni (LLM): la loro tendenza a generare risposte inventate quando non conoscono una risposta. Questa tecnica, chiamata HalluSquatting, permette agli hacker di assemblare botnet massicci utilizzando ben 9 dei più popolari strumenti di intelligenza artificiale. Il fenomeno è stato scoperto da ricercatori di sicurezza che hanno osservato come gli attaccanti sfruttano le allucinazioni dei LLM per indurre gli utenti a scaricare pacchetti software malevoli.
HalluSquatting: come funziona l'attacco basato sulle allucinazioni
Gli LLM, quando interrogati su argomenti per i quali non hanno dati sufficienti, spesso generano risposte plausibili ma completamente false. Gli hacker sfruttano questa caratteristica per creare pacchetti software (librerie, moduli, script) con nomi che gli LLM suggeriscono come raccomandati. Ad esempio, se un utente chiede a un assistente AI di consigliare una libreria Python per un compito specifico, il modello potrebbe inventare un nome di pacchetto inesistente. L'attaccante registra quel nome su repository pubblici come PyPI o npm, caricando codice malevolo che trasforma il computer della vittima in un nodo di un botnet.
Sponsored Protocol
Questa tecnica si rivela particolarmente efficace perché sfrutta la fiducia che gli utenti ripongono negli strumenti AI. Non si tratta di phishing o di exploit tecnici complessi, ma di una manipolazione psicologica basata sull'autorità percepita dell'assistente virtuale. I ricercatori hanno identificato 9 piattaforme AI popolari, tra cui chatbot e assistenti per sviluppatori, che possono essere ingannate con questo metodo. Il risultato è la formazione di botnet distribuiti che possono essere utilizzati per attacchi DDoS, mining di criptovalute o furto di dati.
Sponsored Protocol
L'impatto della HalluSquatting sulla sicurezza informatica
La scoperta ha implicazioni profonde per il settore della cybersecurity. Mentre aziende come Meta stanno sviluppando strumenti per rilevare contenuti generati dall'IA, come descritto in questo articolo, gli attaccanti trovano continuamente nuovi vettori. La HalluSquatting sfrutta una vulnerabilità intrinseca dei modelli linguistici: l'incapacità di dire "non lo so". Invece di ammettere l'ignoranza, il modello genera una risposta falsa, che diventa il vettore dell'attacco.
Il boom dei data center AI, come analizzato in un altro nostro approfondimento, sta aumentando la domanda di potenza computazionale, ma allo stesso tempo moltiplica le superfici d'attacco. Ogni nuovo strumento AI rilasciato diventa un potenziale bersaglio per gli hacker che praticano HalluSquatting. Gli esperti raccomandano di verificare sempre l'esistenza e la reputazione di un pacchetto software prima di installarlo, anche se suggerito da un assistente AI.
Sponsored Protocol
Come difendersi dall'HalluSquatting
La difesa più efficace è la consapevolezza. Sviluppatori e utenti devono essere formati per riconoscere che i suggerimenti degli LLM non sono sempre affidabili. È fondamentale controllare i repository ufficiali, leggere le recensioni e utilizzare strumenti di scansione della sicurezza. Inoltre, i provider di AI stanno lavorando per ridurre le allucinazioni, ma la soluzione non è banale. Fino ad allora, il consiglio è di non fidarsi ciecamente di alcuna raccomandazione generata dall'IA, specialmente quando riguarda il download di eseguibili o librerie.
Per approfondimenti, si consiglia di consultare la pagina Wikipedia sulle allucinazioni nell'intelligenza artificiale.
