Nvidia ha appena compiuto una mossa strategica che ridisegna il modo in cui le GPU accedono ai dati. Durante l'ultima conferenza Future of Memory and Storage, l'azienda ha reso open source le API cuFile e l'intero stack di storage sottostante, creando una nuova organizzazione su GitHub con Google, Intel e Meta come manutentori fondatori. Contemporaneamente ha lanciato ufficialmente Storage-Next, un'iniziativa industriale che coinvolge oltre 40 vendor di storage flash e enterprise. Il cuore dell'annuncio è però SCADA, il framework che sposta il percorso di controllo dell'I/O direttamente sulla GPU, permettendo alle GPU di recuperare i dati dai drive senza che la CPU debba gestire ogni richiesta.
Questa evoluzione nasce da un problema concreto che emerge quando l'inferenza AI diventa il carico di lavoro dominante. Le GPU devono accedere a grandi quantità di piccoli oggetti, come blocchi di KV cache e embedding, che spesso sono inferiori a 512 byte. I controller SSD tradizionali sono tarati per letture casuali da 4KB, un retaggio di decenni di virtualizzazione e database. Questo disallineamento crea una amplificazione di lettura di circa otto volte, che può compromettere le prestazioni complessive del sistema. SCADA risolve questo gap consentendo alla GPU di emettere richieste di I/O in modo indipendente, mantenendo centinaia di migliaia di operazioni in volo, proprio come già fa con la latenza di memoria.
Sponsored Protocol
Il problema dei 512 byte e l'economia della KV cache
La motivazione principale dietro questa iniziativa è l'economia della KV cache. Durante l'inferenza, il modello deve mantenere lo stato di attenzione per ogni token già processato. Con contesti sempre più lunghi e applicazioni agentiche che gestiscono migliaia di conversazioni simultanee, la KV cache cresce rapidamente oltre la memoria GPU disponibile. La soluzione standard è quella di effettuare lo spill della cache dalla memoria GPU alla memoria di sistema e infine alla flash, con un continuo refill attraverso letture casuali di piccole dimensioni. Servire queste richieste dalla flash piuttosto che dalla DRAM aumenta il numero di utenti concorrenti che una singola GPU può supportare, riducendo il costo per utente. Ecco perché Nvidia punta su IOPS a 512 byte piuttosto che sulla larghezza di banda pura.
Sponsored Protocol
L'open source come leva per standardizzare l'hardware
La decisione di aprire cuFile rappresenta un cambio di rotta significativo. Questo livello è sempre stato parte integrante di CUDA e ha visto la luce nel 2019 con GPUDirect Storage, ma ora Nvidia lo rende disponibile a tutti. L'obiettivo è chiaro: un'interfaccia di storage avviata dalla GPU ha senso solo se i vendor di drive, controller e array la adottano. E i vendor difficilmente costruiranno attorno a un'interfaccia proprietaria di un'azienda che produce le GPU stesse. Pubblicando l'interfaccia e open-sourcing l'implementazione, Nvidia mira a rendere lo storage avviato dalla GPU lo standard di settore, con il vantaggio di vendere la maggior parte delle GPU coinvolte.
Sponsored Protocol
La partecipazione di Intel è particolarmente significativa, come sottolinea StorageReview. Intel, che fornisce la maggior parte dei chip x86 che attualmente controllano i controller di storage, ha accettato di mantenere un software progettato per rimuovere proprio quei chip dal percorso I/O. Google e Meta, che stanno sviluppando i propri acceleratori, co-manutengono un livello che standardizza l'accesso allo storage, confermando la direzione verso un ecosistema aperto e collaborativo.
Storage-Next e i sistemi attesi nella seconda metà del 2026
Storage-Next non è una novità assoluta, è discussa pubblicamente dal GTC 2025, ma ora acquisisce una membership concreta e un framework di riferimento. I sistemi partner di DDN, Dell, HPE, IBM, VAST Data e WEKA sono attesi nella seconda metà del 2026. Kioxia sta sviluppando i drive XL-Flash ottimizzati per accessi da 512 byte, mentre la roadmap di Nvidia prevede SSD Gen7 che raggiungano 100 milioni di IOPS ciascuno, un obiettivo che i produttori di controller stanno perseguendo. L'iniziativa si inserisce in un contesto più ampio in cui lo storage diventa il nuovo fronte competitivo dell'AI, come dimostrano anche le recenti vicende nel settore, come la causa di Buc-ee's contro una piccola impresa che evidenzia come anche i marchi debbano difendersi. Per chi sviluppa applicazioni AI, capire come ottimizzare l'accesso ai dati può fare la differenza, così come per chi gestisce container Java, dove le immagini slim e il JVM tuning riducono i tempi di avvio. L'apertura di Nvidia rappresenta un passo avanti verso un'infrastruttura più efficiente, dove la produttività dell'uso delle risorse prevale sulla quantità di hardware posseduto.
Sponsored Protocol
