Un nuovo tipo di attacco informatico sta emergendo nel panorama della sicurezza software, sfruttando le allucinazioni dei modelli di intelligenza artificiale. Si chiama slopsquatting, un termine che unisce 'AI slop' e 'typosquatting', e rappresenta una minaccia diretta alla supply chain del software. Mentre gli sviluppatori si affidano sempre più agli assistenti di codifica basati su IA, i cybercriminali trovano nuovi modi per intrufolarsi nei flussi di lavoro, partendo proprio dalla fiducia riposta in questi strumenti.
Come funziona lo slopsquatting e perché è pericoloso
Lo slopsquatting sfrutta la tendenza dei grandi modelli linguistici a generare nomi di pacchetti software inesistenti. Durante una sessione di coding assistita, il modello può suggerire una libreria open-source fittizia. Se un attore malevolo registra quel nome in un repository pubblico e lo popola con codice dannoso, il malware viene incorporato direttamente nel codice base dello sviluppatore. A differenza del tradizionale typosquatting, che si basa su errori ortografici di pacchetti noti e per cui esistono già protezioni, lo slopsquatting genera nomi plausibili ma completamente inventati, eludendo i controlli automatici dei registry.
Sponsored Protocol
Le allucinazioni persistenti amplificano il rischio
Le allucinazioni dei modelli non sono eventi rari. Uno studio ha analizzato oltre 31.000 vulnerabilità in 14.675 pacchetti su 10 linguaggi di programmazione, rilevando un aumento annuo del 98% delle vulnerabilità segnalate, ben superiore al 25% di crescita del numero di pacchetti open-source. Inoltre, la durata media delle vulnerabilità è cresciuta dell'85%, segnalando un declino nella sicurezza complessiva. Se più modelli allucinano lo stesso pacchetto, la compromissione su larga scala diventa possibile, con malware che resta inosservato per mesi o anni.
Perché i modelli linguistici allucinano pacchetti software
I modelli generano la risposta statisticamente più probabile, non quella accurata. I tassi di allucinazione variano dal 50% all'82% a seconda del modello e del prompt. Anche GPT-4o, il modello con le prestazioni migliori, non scende sotto il 23% nonostante tecniche di mitigazione. Questo fenomeno è sfruttabile dagli attaccanti attraverso manipolazioni a livello di token o avvelenamento del recupero, forzando i modelli a raccomandare pacchetti malevoli.
Sponsored Protocol
Modelli proprietari più sicuri di quelli open-source
La ricerca dimostra che i modelli proprietari hanno una probabilità quattro volte inferiore di generare pacchetti allucinati rispetto a quelli open-source. In un test su 30 sistemi, su 576.000 campioni di codice e 2,23 milioni di pacchetti generati, il 19,7% erano allucinazioni. GPT-4.0 Turbo ha mostrato un tasso del 3,59%, mentre DeepSeek 1B, il miglior modello open-source, ha raggiunto il 13,63%. Le organizzazioni che usano strumenti open-source per la generazione di codice sono quindi quattro volte più esposte allo slopsquatting.
Il 'vibe coding' amplifica la superficie d'attacco
Con il termine 'vibe coding' si indica la pratica di lasciare che l'IA scriva codice in modo fluido, con minima supervisione. Gli sviluppatori stimano che oltre il 40% del codice commitato includa assistenza IA, e il 72% di chi ha provato questi strumenti li usa quotidianamente. Questo aumento dell'uso senza adeguati processi di verifica espande la superficie d'attacco per lo slopsquatting. È essenziale verificare che i pacchetti raccomandati esistano effettivamente nei repository ufficiali prima di integrarli.
Sponsored Protocol
Per contrastare questa minaccia, i team di sicurezza dovrebbero implementare controlli automatici che validino i nomi dei pacchetti contro i registry noti, monitorare installazioni anomale e mantenersi aggiornati sulle campagne di slopsquatting emergenti. La trasparenza dei modelli di IA, come discusso in questo articolo su Anthropic, diventa fondamentale per comprendere e mitigare questi rischi. Per approfondire il contesto, si può consultare la pagina Wikipedia sul typosquatting.
