Nvidia ha svelato nuovi dettagli sulla piattaforma Vera Rubin durante un workshop tecnico tenutosi la scorsa settimana nella sede di Santa Clara, in California. I dirigenti dell'azienda hanno illustrato a un ristretto gruppo di giornalisti le capacità del sistema di chip, sottolineando l'aumento di potenza ed efficienza. La notizia principale è che Nvidia, storicamente specializzata in GPU, sta cercando di posizionarsi come fornitore anche di CPU per alimentare gli agenti di intelligenza artificiale.
L'integrazione di CPU e GPU per gli agenti AI
Le GPU rimangono l'hardware principale per addestrare ed eseguire modelli AI, ma la transizione verso sistemi agentici più complessi ha incrementato la domanda di CPU, che orchestrano flussi di dati, networking e altre attività software. Questo spiega perché Nvidia punti a proporsi come fornitore di sistemi AI completi, non solo di chip. Vera Rubin è il successore del sistema ibrido Grace Blackwell e rappresenta il cardine del futuro prossimo dell'azienda nel settore AI. Il sistema offre una CPU ogni due GPU: nel superchip NVL72 ci sono 36 CPU Vera per 72 GPU Rubin. Nvidia vende anche la CPU Vera come prodotto autonomo e ha riferito a clienti cinesi che potrebbe essere pronta già ad agosto.
Sponsored Protocol
Prestazioni decuplicate e memory bandwidth triplicata
Nvidia sostiene che il sistema Vera Rubin NVL72 elaborerà dieci volte più token per watt rispetto a Grace Blackwell. La CPU Vera è più veloce nei compiti AI agentici rispetto alle rivali AMD e Intel, sebbene i test di benchmark abbiano utilizzato generazioni leggermente precedenti di concorrenti. I sottosistemi di memoria localizzati offrono quasi tre volte la bandwidth di Blackwell, caratteristica interessante data la scarsità di memoria ad alta larghezza di banda. Il sistema è raffreddato al 100% a liquido, riducendo il consumo energetico per il raffreddamento rispetto all'aria.
Installazione plug-and-play e design cable-free
I rack NVL72 sono presentati come molto più semplici da installare: Nvidia parla di "cable-free compute" e "hot-swappable", riducendo il tempo di installazione da ore a pochi minuti. Durante una breve visita a un laboratorio Nvidia in Silicon Valley, i dirigenti hanno rivelato che OpenAI ha già un rack Vera Rubin in uso. Il CEO Jensen Huang non era presente al workshop: era in Giappone per annunciare collaborazioni su robotica AI. Le briefing sono state condotte da Ian Buck, vicepresidente del computing accelerato, e Andrew Bell, senior vice president dell'ingegneria hardware.
Sponsored Protocol
Sfide di mercato e concorrenza con AMD
Nvidia è particolarmente attenta ai ritardi dopo che i chip Blackwell di precedente generazione si sono surriscaldati nei rack personalizzati, causando modifiche al design e slittamenti. La campagna marketing per Vera Rubin arriva poco prima della conferenza annuale di AMD, che ha rivelato dettagli sul suo sistema Helios AI, diretto concorrente. AMD ha incrementato la sua quota nel mercato delle CPU per data center, basate su architettura x86, mentre Nvidia utilizza ARM. I dirigenti Buck e Hannah Coutand hanno sottolineato che Vera Rubin abbandona l'architettura chiplet in favore di un design monolitico, che evita il "pesante carico" sulla bandwidth di memoria e sul movimento dei dati.
Sponsored Protocol
L'espansione dell'infrastruttura AI porta con sé nuove minacce alla sicurezza, come evidenziato dal worm scoperto da CrowdStrike nelle pipeline di sviluppo AI che ruba token e distrugge dati. Allo stesso tempo, le truffe deepfake hanno causato perdite per 3,7 miliardi di dollari, con i social media come vettore principale. Questi episodi sottolineano l'importanza di soluzioni AI robuste e sicure come quelle che Nvidia intende offrire con Vera Rubin.
Per approfondire, si può consultare l'articolo originale su WIRED o la pagina Wikipedia su Nvidia.
Fonte: https://www.wired.com/story/nvidia-wants-to-own-every-chip-inside-an-ai-data-center
