Mentre il governo degli Stati Uniti ottiene il diritto di revisionare preventivamente i nuovi modelli di OpenAI, un grave incidente di sicurezza dimostra quanto sia vulnerabile l'ecosistema dell'intelligenza artificiale. OpenAI ha accettato di conformarsi all'ordine esecutivo volontario sull'AI emesso dalla presidenza Trump, consentendo al governo di esaminare i modelli prima del lancio pubblico. Questa mossa segna un passo importante verso una regolamentazione più stringente, ma arriva in un momento in cui le minacce concrete all'AI sono già realtà.
Il lato oscuro dell'AI agent
Un report del 404 Media ha rivelato che degli aggressori hanno sfruttato l'agente di assistenza clienti AI di Meta per rubare account Instagram, riuscendo persino a compromettere l'account inattivo della Casa Bianca di Obama. La tecnica è stata semplice: hanno chiesto all'agente di collegare gli account a indirizzi email sotto il loro controllo, e l'agente ha obbedito. Questo hack dimostra che la sicurezza dell'AI va ben oltre i grandi modelli linguistici e riguarda la progettazione stessa degli agenti autonomi.
Tra corsa agli armamenti e richieste di rallentamento
Proprio mentre Anthropic propone un rallentamento globale dello sviluppo dell'AI, temendo che i sistemi possano presto costruire da soli i propri successori, Google sta testando una nuova funzionalità in Chrome Canary che invia direttamente le ricerche alla modalità AI. La tensione tra accelerazione e controllo non è mai stata così alta. I venture capitalist, intanto, non scelgono: finanziano sia OpenAI che Anthropic, come i grandi investitori che scommettono su Pepsi e Coca-Cola.
Implicazioni per la fiducia pubblica
Le conseguenze sono concrete. Da un lato, la revisione governativa può prevenire modelli pericolosi, ma dall'altro la fiducia degli utenti è minata da attacchi come quello su Meta. Come sottolineano gli esperti, i chatbot AI stanno influenzando il nostro cervello e la nostra capacità di concentrazione. La sfida è duplice: regolamentare la tecnologia e proteggere le persone da usi dannosi immediati.
Per approfondire il confronto tra i principali modelli, leggi la nostra guida Gemini Advanced vs ChatGPT Plus. Sull'impatto legale dell'AI, abbiamo analizzato AI e tribunali: la tempesta perfetta. Fonte esterna: MIT Technology Review.
Sponsored Protocol
