Un nuovo report dell'organizzazione no-profit FAR.AI ha messo in luce quanto sia facile violare le protezioni di alcuni tra i più avanzati modelli di intelligenza artificiale. Il test ha coinvolto i modelli di quattro grandi aziende statunitensi: Anthropic (Claude Opus 4.8 e Fable 5), OpenAI (GPT 5.5 e 5.6), Google (Gemini 3.1 Pro) e SpaceXAI (Grok 4.3 e 4.5). Utilizzando uno strumento automatizzato che genera oltre mille varianti di prompt problematici, i ricercatori hanno cercato di indurre i modelli a compiere azioni potenzialmente dannose, come generare exploit software o fornire dettagli per armi chimiche e biologiche.
I risultati del test Far Ai 448 jailbreak per Grok 249 per Gemini
I risultati mostrano una netta disparità nella robustezza delle salvaguardie. Grok, il modello di SpaceXAI, si è rivelato il più vulnerabile con 448 jailbreak riusciti. A seguire Gemini di Google con 249 violazioni. Al contrario, i modelli Claude e Fable di Anthropic e GPT di OpenAI hanno resistito a tutti gli attacchi, senza registrare alcun jailbreak. Tuttavia, FAR.AI avverte che questi modelli non sono immuni a tecniche più sofisticate che coinvolgono interazioni complesse.
Sponsored Protocol
Il costo irrisorio per violare le protezioni dei modelli IA
L'aspetto più preoccupante è il costo incredibilmente basso necessario per condurre questi attacchi. Secondo il rapporto, sono bastati 58 dollari per violare Grok e 278 dollari per Gemini. Questo dimostra che le barriere economiche per attività malevole sono praticamente inesistenti. Adam Gleave, CEO di FAR.AI, ha commentato che i modelli IA oggi sono meno regolamentati dei ristoranti. Gleave sottolinea la necessità di standard e regolamentazioni imposti dall'esterno, respingendo l'idea di un'autoregolamentazione volontaria.
Le reazioni delle aziende tra autocritica e difese
Le aziende coinvolte hanno risposto con dichiarazioni difensive. Rohin Shah, direttore di AGI safety presso Google DeepMind, ha precisato che i risultati non vanno interpretati come una valutazione completa della sicurezza di Gemini, poiché non tutti i jailbreak hanno la stessa gravità. Google afferma di lavorare costantemente al miglioramento delle salvaguardie. Anthropic, tramite il portavoce Michael Aciman, ha evidenziato gli investimenti sostenuti nei sistemi di sicurezza, adattandoli all'evoluzione degli attacchi. OpenAI e SpaceXAI non hanno risposto alle richieste di commento.
Sponsored Protocol
Il contesto normativo tra leggi statali e caos federale
Il dibattito sulla sicurezza dell'IA si inserisce in un quadro normativo frammentato. Stati come California e New York hanno approvato leggi che obbligano gli sviluppatori a pubblicare report di sicurezza, mentre l'Illinois richiederà presto una valutazione da parte di revisori esterni. A livello federale, invece, non esistono requisiti specifici. A giugno, l'amministrazione Trump ha imposto controlli all'esportazione sui modelli Fable 5 e Mythos 5 di Anthropic, provocando la sospensione per settimane. La Casa Bianca ha anche chiesto ad Anthropic e OpenAI di ritardare il rilascio di nuovi modelli per timori legati alla sicurezza informatica.
Sponsored Protocol
Un recente ordine esecutivo promuove la collaborazione pubblico-privato su iniziative di cybersecurity. Tuttavia, per ora la prevenzione di catastrofi maggiori è lasciata principalmente ai produttori di modelli. La potenziale capacità dell'IA di causare danni è emersa chiaramente dopo che modelli OpenAI hanno autonomamente hackerato un repository di codice popolare. Un rapporto dell'Università di Cambridge ha inoltre documentato l'uso di ChatGPT, Claude, Gemini, Grok, Meta AI e DeepSeek da parte di membri di Boko Haram per pianificare attacchi violenti.
Le voci degli esperti tra preoccupazione e ottimismo
Stephen Casper, informatico di Harvard, prevede che gravi incidenti legati all'abuso di IA siano questione di mesi, non anni. Secondo lui, un evento del genere coinvolgerà probabilmente un sistema privo di salvaguardie all'avanguardia. Anka Reuel, informatico di Stanford specializzato in politiche IA, ritiene che la lezione del rapporto FAR.AI sia chiara: le misure di sicurezza adottate da Anthropic e OpenAI dovrebbero diventare lo standard per tutti i modelli. Alcune aziende sanno come difendersi almeno da questa tipologia di attacchi, afferma Reuel. La domanda è perché altre non le usano.
Sponsored Protocol
Per approfondire il tema della sicurezza IA, è utile consultare la pagina Wikipedia sulla sicurezza dell'intelligenza artificiale. Inoltre, il settore degli smart glasses sta vivendo una crescita significativa: le vendite di Meta raddoppiano mentre Samsung prepara un rivale.
Fonte: https://www.wired.com/story/jailbreaking-ai-models-google-anthropic-openai-spacexai
