In occasione della conferenza GTC, NVIDIA ha presentato i supercomputer personali per l’intelligenza artificiale NVIDIA DGX basati sulla piattaforma NVIDIA Grace Blackwell.
DGX Spark – ex Project DIGITS – e DGX Station, un nuovo supercomputer desktop NVIDIA Grace Blackwell ad alte prestazioni alimentato dalla piattaforma NVIDIA Blackwell Ultra, consentono a sviluppatori di AI, ricercatori, data scientist e studenti di prototipare, perfezionare e inferenziare modelli di grandi dimensioni su desktop, afferma l’azienda. Gli utenti possono eseguire questi modelli localmente o distribuirli su NVIDIA DGX Cloud o su qualsiasi altra infrastruttura cloud o data center accelerata.
DGX Spark e DGX Station portano sui desktop la potenza dell’architettura Grace Blackwell, precedentemente disponibile solo nei data center. I costruttori di sistemi globali che hanno sviluppato DGX Spark e DGX Station includono ASUS, Dell, HP e Lenovo.
“L’intelligenza artificiale ha trasformato ogni livello dello stack di elaborazione. È logico che emerga una nuova classe di computer, progettati per gli sviluppatori e per l’esecuzione di applicazioni AI-native“, ha dichiarato Jensen Huang, fondatore e CEO di NVIDIA. “Con questi nuovi personal computer DGX AI, l’AI può spaziare dai servizi cloud alle applicazioni desktop ed edge“.
NVIDIA descrive DGX Spark come il supercomputer per intelligenza artificiale più piccolo del mondo, progettato per consentire a milioni di ricercatori, data scientist, sviluppatori di robotica e studenti di spingere i confini dell’intelligenza artificiale generativa e fisica con prestazioni e capacità enormi.
Il cuore di DGX Spark è il superchip NVIDIA GB10 Grace Blackwell, ottimizzato per un fattore di forma desktop. GB10 è dotato di una potente GPU NVIDIA Blackwell con Tensor Cores di quinta generazione e supporto FP4, in grado di offrire fino a 1.000 trilioni di operazioni al secondo di calcolo dell’intelligenza artificiale per il fine-tuning e l’inferenza con i più recenti modelli AI di ragionamento, fra cui il world foundation model NVIDIA Cosmos Reason e il robot foundation model NVIDIA GR00T N1.
Il Superchip GB10 utilizza la tecnologia di interconnessione NVIDIA NVLink-C2C per offrire un modello di memoria coerente CPU+GPU con una larghezza di banda 5 volte superiore a quella del PCIe di quinta generazione. Questo permette al superchip di accedere ai dati tra una GPU e una CPU per ottimizzare le prestazioni dei carichi di lavoro degli sviluppatori di intelligenza artificiale ad alta intensità di memoria.
La piattaforma AI full-stack di NVIDIA consente agli utenti di DGX Spark di spostare senza problemi i propri modelli dai desktop a DGX Cloud o a qualsiasi infrastruttura cloud o data center accelerata – praticamente senza modifiche al codice – rendendo più facile che mai la prototipazione, la messa a punto e l’iterazione dei propri workflow.
NVIDIA DGX Station – sottolinea l’azienda – offre prestazioni di livello data-center ai desktop per lo sviluppo dell’intelligenza artificiale. Primo sistema desktop realizzato con il superchip NVIDIA GB300 Grace Blackwell Ultra Desktop, DGX Station dispone di ben 784 GB di spazio di memoria coerente per accelerare i carichi di lavoro di training e inferenza su larga scala. Il Superchip desktop GB300 è dotato di una GPU NVIDIA Blackwell Ultra con Tensor Cores di ultima generazione e precisione FP4 – collegata a una CPU NVIDIA Grace ad alte prestazioni tramite NVLink-C2C – che offre le migliori prestazioni e comunicazioni di sistema.
DGX Station è inoltre dotata di NVIDIA ConnectX-8 SuperNIC, ottimizzata per potenziare i carichi di lavoro di calcolo AI su scala hyperscale. Grazie al supporto per il networking fino a 800 Gb/s, la ConnectX-8 SuperNIC offre una connettività di rete estremamente veloce ed efficiente, consentendo la connessione ad alta velocità di più stazioni DGX per carichi di lavoro ancora più grandi e trasferimenti di dati accelerati dalla rete per i carichi di lavoro AI.
Combinando queste capacità all’avanguardia di DGX Station con la piattaforma NVIDIA CUDA-X AI, i team possono ottenere prestazioni sorprendenti di sviluppo dell’AI su desktop.
Inoltre, gli utenti possono accedere ai microservizi NVIDIA NIM con la piattaforma software NVIDIA AI Enterprise, che offre microservizi di inferenza altamente ottimizzati e facili da implementare, supportati da un’assistenza enterprise.
Le prenotazioni per i sistemi DGX Spark sono ora aperte. DGX Station dovrebbe essere disponibile presso partner di produzione come ASUS, BOXX, Dell, HP, Lambda e Supermicro nel corso dell’anno.
Per saperne di più, è possibile guardare il keynote di NVIDIA GTC.
