Al VB Transform 2026, i leader tecnologici di LinkedIn, Walmart e Zendesk hanno condiviso una scoperta sorprendente: i veri colli di bottiglia per gli agenti di intelligenza artificiale non sono i modelli, ma l'infrastruttura legacy progettata per il lavoro umano. Animesh Singh, senior director dell'AI platform e infrastruttura di LinkedIn, Desiree Gosby, SVP dei servizi tecnologici e strategia di Walmart, e Sami Ghoche, VP di applied AI di Zendesk, hanno descritto le sfide affrontate nel passaggio dagli agenti pilota alla produzione. Ogni azienda ha trovato lo stesso muro da una direzione diversa: l'infrastruttura built for humans non regge quando gli agenti agiscono in millisecondi.
LinkedIn: Kubernetes e allucinazioni strutturali
Il primo ostacolo per LinkedIn non è stato un modello, ma Kubernetes. Singh ha spiegato che il provisioning on-demand di container richiede secondi, un'eternità per gli agenti. La soluzione è stata passare a pool pre-provisionati di container, che scambiano carichi di lavoro agentici in tempo reale. Un problema più complesso è emerso quando gli agenti hanno iniziato a orchestrarsi autonomamente. Un sistema di valutazione a cinque punti sembrava efficace, ma le allucinazioni persistevano. Singh ha identificato la causa strutturale: un LLM che valuta l'output di un altro LLM condivide lo stesso difetto. LinkedIn ha quindi costruito un proprio harness e control flow, spingendo gli LLM solo dove serve ragionamento; circa l'80% del flusso è ora codice deterministico e scriptato, con prove registrate su disco prima di proseguire. Anche Intuit ha affrontato sfide simili nella ricostruzione dell'architettura degli agenti AI.
Sponsored Protocol
Walmart: cittadini sviluppatori e duplicazioni incontrollate
Walmart ha incontrato un collo di bottiglia inaspettato: il successo. Un harness per agenti messo a disposizione dei dipendenti è diventato virale internamente. Gosby ha definito "cittadini sviluppatori" i colleghi che hanno iniziato a creare agenti per risolvere problemi che prima richiedevano roadmap ingegneristiche. L'innovazione è stata reale, ma è emersa una duplicazione massiccia: dozzine di agenti sovrapposti senza coordinamento. La soluzione non è stata limitare l'harness, ma costruire una governance per individuare duplicazioni, promuovere la versione migliore di un agente e portarla in produzione senza che l'ingegneria diventasse un collo di bottiglia. Brex ha recentemente lanciato CrabTrap, un proxy open source per governare gli agenti AI con policy derivate dal traffico reale, una soluzione affine.
Sponsored Protocol
Zendesk: data pipeline da 20 miliardi di conversazioni
Zendesk ha affrontato il collo di bottiglia dal lato dati. Ghoche, arrivato dall'acquisizione di Forethought nel marzo 2026, ha descritto un repository di circa 20 miliardi di conversazioni con i clienti. L'istinto sarebbe di dare tutta questa storia a un LLM con grande finestra di contesto, ma Ghoche ha sottolineato che non funziona. È necessario investire nelle pipeline di dati e nell'infrastruttura dati sottostante per rendere gli agenti efficienti. Questo approccio evidenzia come i dati siano spesso il fattore limitante più trascurato.
Sponsored Protocol
Il ruolo dell'open source e l'indipendenza dai fornitori
Tutti i leader hanno concordato su un punto: possedere quanto più possibile dell'infrastruttura e dei modelli. LinkedIn ha costruito un AI gateway che unifica tutte le chiamate in uscita verso LLM, indipendentemente dal fornitore, e un sottosistema di memoria per mantenere il contesto indipendente dal modello. Walmart ha creato un gateway interno per rimanere vendor agnostic su tre tipi di carico di lavoro: deterministico, planner-and-reasoner e ibrido. La scelta tra modelli frontier e open-weight dipende dall'efficacia per il carico specifico, non da una politica fissa.
Sponsored Protocol
Consigli per la modernizzazione
Ghoche ha consigliato di investire nelle valutazioni (evals) prima di tutto, perché costringono a scomporre il problema e accelerano lo sviluppo. Gosby ha raccomandato di mettere un AI harness nelle mani dei dipendenti fin dal primo giorno, abbinato a infrastrutture di monitoraggio. Singh ha esortato a costruire per l'indipendenza del modello e del contesto, mantenendo i dati all'interno dell'azienda per poterli riutilizzare con modelli futuri. Leggi l'articolo originale su VentureBeat per approfondire le dichiarazioni dei dirigenti. Wikipedia sull'intelligenza artificiale offre un contesto più ampio su questa tecnologia.
