Nel 2026 l'esplorazione dell'AI locale passa da due piattaforme consolidate, Nvidia GB10 e AMD Ryzen AI Max+ 395, ma il Mac Studio con chip Apple M4 Max si sta ritagliando un ruolo da protagonista. La configurazione da noi provata monta una CPU a 16 core, una GPU a 40 core e 128GB di memoria unificata a 546GB/s. Questi numeri sulla carta promettono prestazioni elevate, ma servono misurazioni reali per capire se l'inferenza locale trae davvero beneficio da tanta larghezza di banda.
La configurazione testata e il contesto di mercato
Il Mac Studio M4 Max che Apple ci ha dato in prestito include una CPU a 16 core (12 prestazionali e 4 efficienti), una GPU a 40 core e 128GB di RAM LPDDR5X-8533. Al lancio costava circa 3.699 dollari, una cifra paragonabile ai 3.999 dollari del DGX Spark con GB10. Tuttavia, con l'impennata dei prezzi delle memorie, questa versione non è più disponibile e la configurazione massima attuale arriva a 64GB, con tempi di attesa superiori a due mesi. Nonostante questo, rimane l'unica piattaforma consumer con un bus memoria così ampio (512 bit) e una bandwidth così elevata.
Sponsored Protocol
Il ruolo della memoria nella decodifica dei modelli
Per capire l'importanza della larghezza di banda bisogna guardare alla fase di decodifica dell'inferenza. Ogni token generato deve attraversare tutti i layer del modello e i pesi di ogni layer vanno caricati dalla memoria alla GPU. Poiché il lavoro computazionale per singolo token è esiguo, il collo di bottiglia è la velocità di lettura dei pesi. Avere un grande pool di memoria permette di ospitare modelli enormi, e un bus largo accelera il flusso dei dati. È esattamente ciò che offre l'M4 Max, con il doppio della bandwidth rispetto a GB10 e Strix Halo.
I benchmark sul campo con llama.cpp
Abbiamo utilizzato llama.cpp con supporto Metal e il pacchetto llama-benchy come driver. I modelli scelti sono Qwen 3.6-35B-A3B (mixture-of-experts), Gemma 4 12B (denso) e gpt-oss-120b (Moe), tutti quantizzati a 4 bit da Unsloth. Nella fase di prefill (elaborazione del prompt), il Mac Studio si posiziona davanti allo Strix Halo ma dietro al GB10 con contesti lunghi. Quando si passa alla decodifica (generazione dei token), però, l'M4 Max prende il comando, a ogni livello di profondità del contesto supera sia GB10 sia Strix Halo in termini di token al secondo.
Sponsored Protocol
Il bandwidth non è l'unica variabile
Il risultato più interessante è che, nonostante la bandwidth doppia, su Qwen 3.6-35B-A3B il guadagno medio è stato di circa il 25%. Un miglioramento tangibile, ma non il raddoppio che ci si aspetterebbe. Con il modello denso Gemma 4 12B, invece, l'incremento è quasi lineare rispetto alla larghezza di banda, segno che l'architettura del modello e l'ottimizzazione dei kernel Metal fanno la differenza. In sostanza, la bandwidth è necessaria ma non sufficiente.
Sponsored Protocol
Oltre le prestazioni, la sicurezza dei modelli
Mentre la velocità di inferenza è un fattore chiave, chi adotta soluzioni locali non può ignorare i limiti strutturali dei LLM. Una ricerca presentata all'ICML 2026 ha mostrato che questi sistemi non possono essere resi completamente sicuri, un tema cruciale per le aziende che vogliono utilizzarli in produzione. In ogni caso, il Mac Studio M4 Max si conferma una scelta solida per gli sviluppatori che cercano il massimo del throughput in un form factor compatto. Per approfondimenti tecnici sulla piattaforma, si può consultare la pagina di Wikipedia dedicata al Mac Studio.
