Offrendo una panoramica dell’architettura che alimenta AI factoy avanzate, NVIDIA ha condiviso un video che offre il primo sguardo pubblico a Eos, il suo ultimo supercomputer su scala data-center.
Un NVIDIA DGX SuperPOD su larghissima scala, Eos è il luogo in cui gli sviluppatori NVIDIA creano le loro scoperte nel campo dell’intelligenza artificiale utilizzando un’infrastruttura di accelerated computing e un software completamente ottimizzato.
Eos è costruito con 576 sistemi NVIDIA DGX H100, rete NVIDIA Quantum-2 InfiniBand e software, per un totale di 18,4 exaflop di prestazioni AI FP8.
Presentato a novembre in occasione della fiera Supercomputing 2023, Eos – che prende il nome dalla dea greca che si dice apra le porte dell’alba ogni giorno – riflette l’impegno di NVIDIA per il progresso della tecnologia AI.
Ogni sistema DGX H100 è dotato di otto GPU NVIDIA H100 Tensor Core: Eos dispone di un totale di 4.608 GPU H100. Di conseguenza, sottolinea NVIDIA, Eos è in grado di gestire i più grandi carichi di lavoro AI per addestrare modelli linguistici di grandi dimensioni, sistemi di raccomandazione, simulazioni quantistiche e altro ancora.
Il supercomputer intende essere una dimostrazione di ciò che le tecnologie NVIDIA sono in grado di fare quando funzionano su scala. E, dal punto di vista dell’azienda, Eos arriva nel momento perfetto. Le persone stanno cambiando il mondo con l’AI generativa, dalla scoperta di farmaci ai chatbot alle macchine autonome e oltre.
Per raggiungere questi traguardi, non bastano le competenze e le capacità di sviluppo dell’AI. Serve un’AI factory, un motore di intelligenza artificiale appositamente costruito, sempre disponibile e in grado di aiutare a sviluppare modelli AI su scala.
Classificato al n. 9 della classifica TOP500 dei supercomputer più veloci del mondo, Eos si spinge oltre i confini della tecnologia e dell’infrastruttura AI. Include gli accelerated computing e networking avanzati di NVIDIA insieme a sofisticate soluzioni software come NVIDIA Base Command e NVIDIA AI Enterprise.
L’architettura di Eos è ottimizzata per i carichi di lavoro AI che richiedono un’interconnettività a bassissima latenza e a elevato throughput su un ampio cluster di nodi di accelerated computing, il che la rende una soluzione ideale per le aziende che desiderano scalare le proprie capacità AI.
Basata su NVIDIA Quantum-2 InfiniBand con tecnologia In-Network Computing, la sua architettura di rete supporta velocità di trasferimento dei dati fino a 400Gb/s, facilitando il rapido spostamento di dataset di grandi dimensioni, essenziali per l’addestramento di modelli di intelligenza artificiale complessi.
Il cuore di Eos è l’innovativa architettura DGX SuperPOD alimentata dai sistemi NVIDIA DGX H100. L’architettura è stata realizzata per fornire ai settori dell’AI e del computing sistemi full-stack strettamente integrati in grado di elaborare su scala enorme.
In un momento in cui le aziende e gli sviluppatori di tutto il mondo cercano di sfruttare la potenza dell’intelligenza artificiale, dal punto di vista di NVIDIA Eos rappresenta una risorsa fondamentale, che promette di accelerare il viaggio verso le applicazioni impregnate di AI in grado di spingere in avanti ogni organizzazione.
