Durante l'AI Impact event organizzato da VentureBeat, Brian Gracely, senior director of portfolio strategy di Red Hat, ha offerto una panoramica dettagliata su ciò che distingue le aziende che riescono a scalare l'uso di agenti AI da quelle che rimangono bloccate in fase pilota. Secondo Gracely, i problemi principali riguardano la disciplina dei costi, le vulnerabilità di sicurezza specifiche dei sistemi autonomi e l'attrito organizzativo che determina se l'adozione si diffonderà oltre i primi entusiasti.
Le aziende sopravvalutano il ritardo nell'adozione degli agenti AI
Molti dirigenti, seguendo i keynote e gli annunci del settore, temono di essere già pericolosamente indietro rispetto ai concorrenti che implementano agenti su larga scala. Gracely sostiene che gran parte di questa ansia è infondata: una volta che i team iniziano a costruire, la curva di apprendimento è molto più rapida del previsto. Tuttavia, questo progresso rapido crea una nuova sfida: con l'espansione dell'uso degli agenti, i costi dell'AI crescono altrettanto velocemente, trasformando la gestione dei costi da una questione tecnica a un argomento ricorrente nei consigli di amministrazione.
Sponsored Protocol
Il dimensionamento dei modelli AI è la leva più rapida per tagliare i costi
Il problema principale dei costi è che le aziende tendono a utilizzare il modello più potente disponibile per qualsiasi attività, indipendentemente dalla complessità. "Se devo semplicemente risolvere una richiesta di risarcimento assicurativo, non ho bisogno di conoscere la storia della civiltà occidentale o i punteggi dei Mondiali di calcio", ha spiegato Gracely. Per risolvere questo problema, molte aziende adottano il routing semantico: un meccanismo che classifica le richieste e le invia automaticamente al modello più appropriato, senza richiedere all'utente di scegliere. Inoltre, tecniche di infrastruttura come il caching delle query ripetitive riducono la necessità di ricorrere alla potenza di calcolo delle GPU. Secondo Gracely, questi strumenti dimostrano che efficienza e innovazione non sono scelte binarie.
La disciplina finanziaria necessaria per la spesa in token è simile alle pratiche FinOps che hanno richiesto anni per maturare nel controllo dei costi del cloud. I framework sottostanti si trasferiranno anche se il vocabolario cambia, ha detto Gracely, soprattutto quando le organizzazioni spingeranno per una formazione interna sulla selezione dei modelli, in modo che i team smettano di scegliere automaticamente l'opzione più costosa. "Allo stesso modo in cui abbiamo dovuto insegnare ai responsabili finanziari cosa sono un'istanza EC2 e un bucket S3, ora dovremo spiegare loro i token", ha aggiunto. "Non abbiamo sempre bisogno di una Rolls-Royce o del caviale, perché stiamo cercando di fare cose basilari."
Sponsored Protocol
La velocità di patch diventa critica con gli strumenti AI che trovano vulnerabilità più velocemente
La scoperta di vulnerabilità potenziata dall'AI sta costringendo le aziende a ripensare la rapidità con cui identificano, convalidano e distribuiscono le patch. I cicli di patch management consolidati potrebbero non essere più sufficienti in un ambiente in cui l'AI può scoprire – e gli aggressori possono sfruttare – nuove vulnerabilità molto più rapidamente. "La maggior parte delle aziende avrà probabilmente una finestra di tempo tra 7 e 14 giorni per stare al passo", ha affermato Gracely. "Ci sono gruppi, incluso Red Hat, che costruiranno patch per queste vulnerabilità, ma la finestra di embargo sarà breve." Inoltre, l'AI sta cambiando ciò che i difensori devono cercare: non solo singole vulnerabilità critiche, ma combinazioni di vulnerabilità apparentemente minori che diventano pericolose solo se concatenate. Con l'accelerazione della complessità software e della scoperta di vulnerabilità, la capacità di gestire e aggiornare rapidamente il software sta diventando una capacità strategica, non solo operativa.
Sponsored Protocol
Per un esempio concreto di come le dipendenze da pochi fornitori possano creare rischi, si veda l'analisi su come la Cina elude le sanzioni USA per i chip Nvidia, un caso che evidenzia i pericoli della concentrazione di mercato. Sul fronte della sicurezza, la recente violazione di Nextcloud che ha esposto 367.000 record dimostra quanto sia importante una gestione rapida delle vulnerabilità.
Sponsored Protocol
Gli esperti di dominio e i team di conformità decidono se gli agenti scalano
Alla fine, l'adozione organizzativa dipende dal coinvolgimento profondo e sostenuto degli esperti di dominio, la cui conoscenza l'agente deve codificare. Ottenere il loro consenso è un prerequisito, non un ripensamento. "Bisogna pensare agli incentivi, a cosa fare per le persone che partecipano a questo lavoro, in modo che non si sentano minacciate dal fatto che l'agente possa rubare il loro lavoro, e come incentivare le persone a cooperare con l'innovazione a lungo termine", ha concluso Gracely. Questo richiede anche un allineamento con i team di conformità, che devono validare che gli agenti operino entro i limiti normativi. In definitiva, il successo degli agenti AI enterprise non è solo una questione tecnologica, ma di cultura organizzativa e disciplina finanziaria, come spiega Wikipedia nella voce FinOps, un modello di gestione dei costi sempre più rilevante per l'AI.
