C’è una soglia abbastanza precisa oltre la quale l’hardware consumer smette di stare al passo. Non è una soglia teorica: è quella in cui cominci a sentirti dire “out of memory” mentre provi a caricare un modello da 70 miliardi di parametri su una workstation che, sulla carta, dovrebbe cavartela.
Chi lavora con modelli linguistici grandi lo sa. E finora la risposta era quasi sempre la stessa: cloud, o compromessi.
Il Dell Pro Max con GB10 è un tentativo di rispondere diversamente. È una scatola da 1,2 kg, 150mm per 150mm per 50,5mm, che contiene il chip Nvidia Grace Blackwell GB10: 20 core ARM (10 Cortex-X925 e 10 Cortex-A725), una GPU Blackwell con 6.144 CUDA core, e 128GB di memoria unificata LPDDR5X su bus a 256 bit, con 273 GB/s di banda. Arriva a 1 petaFLOP di performance FP4 sulle Tensor Core di quinta generazione.
In pratica: riesce a caricare un modello da 200 miliardi di parametri interamente in memoria e lavorarci sopra senza mandare nulla nel cloud.
Kevin Terwilliger, il VP che sovrintende il portfolio PC di Dell, lo dice senza giri di parole nel blog ufficiale: anche la workstation più potente del loro catalogo, la Dell Pro Max Tower T2 con RTX PRO 6000 Blackwell e 96GB di VRAM, si fermava tra i 30 e i 40 miliardi di parametri prima di cominciare a fare compromessi su accuratezza o capacità. Il GB10 sposta quel limite in modo netto.
Il problema del cloud, nel frattempo, non è solo operativo. Per i team che fanno esperimenti AI continuativi c’è la frizione di gestire accessi e ambienti remoti, e per le organizzazioni con dati sensibili, in ambito healthcare, finance, legale o enti pubblici, il tema della residenza dei dati è spesso non negoziabile. L’AI on-premises non è una scelta ideologica: è spesso un requisito.
Due unità collegate via QSFP diventano un singolo nodo capace di gestire modelli fino a 400 miliardi di parametri. Il cavo è incluso nella confezione.
Il software è DGX OS, la versione customizzata di Ubuntu 24.04 LTS che Nvidia usa sui propri sistemi. L’intero ecosistema di playbook e codice che Nvidia pubblica su GitHub per il DGX Spark funziona out of the box sul Pro Max di Dell, senza adattamenti.
Fin qui il quadro promettente. Poi arriva la parte che apprezzo di più dell’articolo originale, scritta dallo stesso VP di Dell: questa macchina non è per tutti.
Lo dice in modo esplicito. Il GB10 non gira su Windows, non gira su macOS. Gira su Linux. Chi è abituato a interfacce grafiche dovrà adattarsi a workflow basati su container e riga di comando. “Organizations should carefully evaluate whether their team has the technical expertise to use this machine effectively before adoption.” Non è un disclaimer legalese: è un avvertimento reale.
È una macchina per chi sviluppa e testa modelli AI, non per chi li usa. I ricercatori che lavorano su architetture custom, i team che fanno prototipi da validare localmente prima di scalare, chi ha bisogno di un ambiente controllato lontano dal cloud. Non il manager che vuole “avere l’AI in ufficio.”
I benchmark indipendenti mostrano che su inference pura il GB10 produce circa 10 token al secondo su modelli grandi. Ma il punto non è l’inference veloce: è avere 128GB di memoria unificata con l’intero stack CUDA disponibile per sviluppare, testare, iterare. Sono misure diverse di performance per usi diversi.
Non è la macchina più veloce per tutto. Non è pensata per essere la macchina di tutti. Ma per quello che fa, lo fa bene, e Dell ha avuto l’onestà di dire chiaramente chi dovrebbe comprarla e chi no.
Trovo che questo valga quasi quanto le specifiche.
Fonte: Dell Pro Max with GB10: Purpose-built for AI Developers, Kevin Terwilliger, Dell Blog, settembre 2025.
Immagine: Wikimedia Commons, licenza libera.