NVIDIA presenta Spectrum-6, il nuovo sistema Ethernet da 102,4 terabit al secondo progettato per collegare centinaia di migliaia di GPU nelle infrastrutture basate sulla piattaforma Vera Rubin. CoreWeave, Microsoft, Nebius, SpaceXAI e Tesla saranno tra i primi ad adottarlo.
L’intelligenza artificiale sta entrando nell’era delle infrastrutture “gigascale”, composte da centinaia di migliaia di GPU e CPU impegnate nell’addestramento dei modelli più avanzati e nell’esecuzione di servizi di inferenza. In sistemi di queste dimensioni, tuttavia, la potenza dei singoli acceleratori non è più sufficiente a determinare le prestazioni complessive: anche la rete diventa una componente essenziale del sistema di calcolo.
Per rispondere a questa esigenza, NVIDIA ha annunciato l’arrivo di Spectrum-6, uno switch Ethernet da 102,4 terabit al secondo sviluppato per la piattaforma Vera Rubin. La capacità risulta doppia rispetto a quella della generazione precedente e permette di collegare un numero elevatissimo di acceleratori mantenendo velocità, efficienza e resilienza anche durante i carichi di lavoro più impegnativi.
Una rete progettata per l’intelligenza artificiale
Le reti Ethernet tradizionali sono nate soprattutto per gestire il traffico tra utenti, server e sistemi di archiviazione. L’addestramento dei grandi modelli di intelligenza artificiale produce invece enormi quantità di traffico interno al data center: migliaia di acceleratori devono scambiarsi continuamente informazioni e sincronizzare il proprio lavoro.
In questo scenario, un collegamento lento o congestionato può rallentare un’intera operazione. Spectrum-X, la piattaforma Ethernet di NVIDIA dedicata alle AI factory, è stata progettata per distribuire il traffico su più percorsi, aggirare rapidamente eventuali guasti e recuperare i dati che non raggiungono correttamente la destinazione.
Spectrum-6 rappresenta la nuova generazione di questa architettura. Il chip viene abbinato alle schede di rete ConnectX-9 SuperNIC e si integra con gli altri componenti della piattaforma Vera Rubin: la CPU Vera, le GPU Rubin, gli switch NVLink 6 e le DPU BlueField-4.
Raffreddamento a liquido e maggiore efficienza
Il nuovo sistema sarà disponibile sia con moduli ottici collegabili sia con ottiche integrate nello stesso package. Sono previste inoltre configurazioni con raffreddamento a liquido, pensate per ridurre i consumi e consentire una gestione termica coordinata dell’intera AI factory.
Secondo i dati comunicati da NVIDIA, Spectrum-X può offrire prestazioni di rete fino a 1,6 volte superiori rispetto all’Ethernet tradizionale, mantenendo un’efficienza fino al 95% anche in installazioni con più di 100.000 GPU.
Le topologie multiplane accelerate via hardware permetterebbero inoltre di ridurre di 1,7 volte il numero di switch necessari. Le soluzioni Spectrum-X Ethernet Photonics promettono invece un’efficienza energetica cinque volte superiore e un miglioramento di dieci volte dell’intervallo medio tra gli incidenti.
I primi utilizzatori di Spectrum-6
CoreWeave, Microsoft, Nebius, SpaceXAI e Tesla figurano tra le prime aziende intenzionate a integrare Spectrum-6 nelle proprie infrastrutture. CoreWeave, Microsoft e Nebius saranno anche tra i primi fornitori a proporre sistemi basati su NVIDIA Vera Rubin con la nuova generazione di Spectrum-X.
Per i provider cloud, la tecnologia dovrebbe consentire di utilizzare una maggiore quantità di risorse di calcolo come se appartenessero a un unico sistema coordinato. Per le aziende che costruiscono direttamente le proprie infrastrutture, il vantaggio consiste invece nella possibilità di mantenere sincronizzato un numero crescente di GPU, migliorandone l’utilizzo durante le operazioni collettive e aumentando l’affidabilità dei processi di lunga durata.
L’obiettivo dichiarato da NVIDIA è trasformare la rete da possibile collo di bottiglia a moltiplicatore della capacità di calcolo. Nell’era delle AI factory gigascale, le prestazioni non dipenderanno quindi soltanto dalla velocità delle GPU, ma dalla capacità dell’intera infrastruttura di funzionare come un unico computer.
