Una nuova tecnica difensiva chiamata context bombing sta rivoluzionando la cybersecurity. I ricercatori di Tracebit hanno scoperto che posizionare prompt injection accanto a password e chiavi crittografiche su Amazon Web Services blocca gli attacchi degli agenti AI malevoli. Questo metodo sfrutta le stesse vulnerabilità che gli hacker usano per disabilitare le difese, ribaltando il tavolo a favore dei difensori.
Il meccanismo del context bombing: un boomerang AI
Il context bombing funziona in modo semplice ma efficace. Quando un agente AI cerca di accedere a risorse sensibili, si imbatte in prompt injection che ordinano al modello linguistico di eseguire azioni proibite dalle sue guardrail, come fornire istruzioni per costruire armi biologiche. Il modello, rispettando i propri limiti, si rifiuta di procedere e interrompe l'operazione. I ricercatori hanno testato questa tecnica su cinque modelli leader: Opus 4.8, Gemini 3.1 Pro, GLM 5.2, DeepSeek 4 Pro e Kimi 2.6, simulando un ambiente AWS. I risultati sono impressionanti: la percentuale di escalation dei privilegi di amministrazione è scesa dal 57% al 5%, e la compromissione completa con persistenza dal 36% all'1%. In media, il 91% degli attacchi è stato bloccato. Questo approccio si inserisce nel più ampio problema della scarsa qualità dei dati che blocca i progetti AI generativa, dimostrando che anche i dati difensivi possono essere cruciali.
Sponsored Protocol
Dai canary al context bombing: un'evoluzione difensiva
Il context bombing nasce da ricerche precedenti di Tracebit sui Canariens, risorse AWS esca che avvisano gli amministratori quando vengono sondate da agenti AI. Questi canary rilevavano gli attacchi in media entro otto minuti, ma il tempo necessario per l'escalation era di 14 minuti, lasciando solo sei minuti per reagire. Il context bombing fornisce una difesa attiva che ferma l'agente prima che possa causare danni. Secondo Andy Smith, CEO di Tracebit, una volta che il prompt injection entra nel contesto dell'agente, il modello continua a rifiutare qualsiasi comando successivo. Le implicazioni sono enormi: gli attaccanti usano già prompt injection per disabilitare le difese AI, come scoperto da Socket e Check Point. Ora i difensori hanno un'arma simile. Earlence Fernandes, professore all'UC San Diego specializzato in sicurezza AI, ha confermato che questa è la prima volta che la tecnica viene usata in difesa. Per approfondire il ruolo dell'AI nella competizione globale, si veda anche il divario tecnologico tra Cina ed Europa.
Sponsored Protocol
Limitazioni e prospettive future
Nonostante i risultati promettenti, il context bombing non risolve la causa principale delle injection. Non esiste ancora un modo per eliminare alla radice questa vulnerabilità. I ricercatori continuano a costruire guardrail sempre più sofisticati, ma la difesa tramite context bombing offre una soluzione pratica immediata. I test hanno mostrato che anche il modello più capace, Opus 4.8, che otteneva accesso admin nel 93% dei casi, ha fallito sempre quando ha incontrato il context bomb. In media, il numero di percorsi di attacco completati con successo è sceso da 1,53 a 0,16. Questo approccio potrebbe diventare uno strumento standard nella cassetta degli attrezzi della cybersecurity, complementando altre tecniche come quelle discusse nell'articolo su SEO per AI Overviews. Per ulteriori dettagli, si rimanda allo studio originale pubblicato su Wired.
Sponsored Protocol
Fonte: https://www.wired.com/story/prompt-injection-attacks-are-thwarting-ai-hacking-agents
