Il settore dell'intelligenza artificiale enterprise si trova di fronte a un paradosso matematico. Secondo i dati di Cisco, l'85% delle aziende sta sperimentando agenti AI, ma solo il 5% li ha effettivamente messi in produzione. Durante il VB Transform 2026, Bryan Silverthorn, direttore dell'AGI Autonomy presso Amazon, ha spiegato perché questo divario persiste e perché la soluzione non risiede in benchmark migliori. Silverthorn, entrato in Amazon tramite l'acquisizione di Adept AI, guida ora l'addestramento di agenti multimodali all'interno del laboratorio AGI dell'azienda. Ha sostenuto che l'affidabilità deve essere scomposta in quattro dimensioni distinte: consistenza, robustezza, prevedibilità e sicurezza, un framework che attribuisce alla ricerca di Princeton. Queste dimensioni sono spesso confuse nelle valutazioni attuali, ha dichiarato.
Il fallimento degli agenti AI supera i test interni ma non i clienti reali
Il framework è cruciale perché gli agenti superano regolarmente le valutazioni interne per poi crollare in ambienti reali. Silverthorn ha raccontato il caso di un cliente che aveva implementato un agente per il controllo qualità software, incaricato di estrarre numeri di serie da schermate. L'agente ha funzionato perfettamente per due mesi, ma poi ha iniziato a leggere numeri errati in modo intermittente. La causa era un encoder visivo che si comportava diversamente a seconda della posizione del numero sullo schermo; una modifica software impercettibile agli umani ha innescato il fallimento. La lezione, ha spiegato Silverthorn, riguarda le misurazioni, non solo i modelli. I modelli devono migliorare, certo, ma il punto più profondo è che i team devono identificare le loro dimensioni di variabilità e abbinare il rigore della misurazione alla posta in gioco dell'applicazione. La ricerca proprietaria di VentureBeat presentata prima della sessione rafforza il concetto: metà delle aziende intervistate ha rilasciato agenti che hanno superato i test interni ma hanno fallito con i clienti reali, e le imprese monitorano prevalentemente l'uptime ignorando l'accuratezza. Un altro dato ha evidenziato quanto pochi guardrail esistano: la maggior parte delle aziende si affida alle valutazioni dei produttori di modelli, trasformando la strategia di testing in un lancio di moneta tra fidarsi del fornitore e non fidarsi di nulla.
Sponsored Protocol
Il framework 'intern' di Amazon per la gestione degli agenti AI autonomi
La prescrizione più memorabile di Silverthorn è stata culturale, non tecnica. All'interno del laboratorio AGI di Amazon, i ricercatori chiamano letteralmente i loro agenti 'stagisti' (interns), con la frase: farò parlare il mio stagista con il tuo stagista. Lo scherzo nasconde una seria filosofia operativa. Gli agenti, come gli stagisti, sono potenti ma a volte imprevedibili, capaci di lavoro eccezionale e di deragliamenti spettacolari. Gestirli richiede capacità manageriali più che competenze software: chiedersi cosa potrebbe andare storto, aggiungere backup e funzionalità di annullamento, e decidere consapevolmente quale rischio accettare. Puoi chiedere allo stagista: 'Ehi, cosa potresti sbagliare qui? Come potresti mitigare gli esiti negativi?', ha detto. Il laboratorio di Amazon ha abbracciato questo compromesso, accettando che gli agenti eseguano occasionalmente l'esperimento sbagliato in cambio di velocità di ricerca, incluso un agente che esegue esperimenti 24 ore su 24 seguendo il proprio piano di ricerca di alto livello.
Sponsored Protocol
Cosa devono fare i leader aziendali prima di implementare agenti su larga scala
Silverthorn è stato franco sui limiti della tecnologia attuale. L'AI auto-migliorante rimane un termine carico di significato: Amazon usa l'AI per migliorare costantemente i suoi modelli, ma l'auto-miglioramento completamente autonomo è lontano. L'uso del computer (computer use) resta un focus centrale del suo laboratorio, con un cliente nel settore dei trasporti che già utilizza l'automazione del browser per collegare richieste di garanzia attraverso sistemi frammentati. Ha sottolineato che nessun futuro agente si baserà esclusivamente sull'uso del computer: lavorerà insieme a MCP, API e altri strumenti per completare flussi di lavoro end-to-end. Le tecniche LLM-as-judge, sebbene promettenti, sono solo una delle strategie per allineare la capacità dell'agente al rischio accettabile.
Sponsored Protocol
Per le aziende bloccate nel purgatorio dei pilot, la via d'uscita inizia con un cambio di mentalità: smettere di chiedersi se l'agente possa fare qualcosa di impressionante una volta, e iniziare a chiedersi se possa farlo correttamente mille volte di seguito. In altre parole, le aziende che usciranno dal tetto dell'85% non saranno quelle con gli agenti più intelligenti, ma quelle con i migliori manager. Per approfondire il tema della sicurezza degli agenti AI, leggi il nostro articolo su OpenAI GPT-Red. Per un esempio di gestione dei rischi nei chatbot, consulta Meta e la sicurezza dei teen. Un'analisi esterna autorevole è disponibile su Wikipedia sull'AI industriale.
Sponsored Protocol
