In occasione di VMware Explore, NVIDIA ha annunciato che alcuni tra i principali produttori di sistemi offriranno server AI-ready che supportano VMware Private AI Foundation with NVIDIA, annunciato anch’esso nell’occasione, per aiutare le imprese a personalizzare e distribuire applicazioni di AI generativa utilizzando i propri dati aziendali.
I server NVIDIA AI-ready includeranno GPU NVIDIA L40S, DPU NVIDIA BlueField-3 e il software NVIDIA AI Enterprise per consentire alle aziende di perfezionare i modelli foundation di AI generativa e di implementare applicazioni di AI generativa come chatbot intelligenti, strumenti di ricerca e di sintesi.
Questi server offrono anche un’infrastruttura e un software accelerati da NVIDIA per alimentare VMware Private AI Foundation con NVIDIA.
I server potenziati dalle GPU L40S e dalle DPU BlueField di NVIDIA dei principali produttori di sistemi globali – Dell Technologies, Hewlett Packard Enterprise e Lenovo – saranno disponibili entro la fine dell’anno, con istanze disponibili presso i fornitori di servizi cloud nei prossimi mesi.
“È iniziata una nuova era del computing“, ha dichiarato Jensen Huang, fondatore e CEO di NVIDIA. “Le aziende di ogni settore stanno correndo per adottare l’IA generativa. Grazie al nostro ecosistema di partner software e di sistema leader a livello mondiale, stiamo portando l’AI generativa nelle aziende di tutto il mondo“.
I server NVIDIA AI-ready – sottolinea l’azienda – sono una piattaforma ideale per le organizzazioni che implementeranno VMware Private AI Foundation con NVIDIA.
“L’AI generativa sta accelerando la trasformazione digitale e le aziende hanno bisogno di una soluzione completamente integrata per creare applicazioni più sicure che consentano loro di far progredire il proprio business“, ha dichiarato Raghu Raghuram, CEO di VMware. “Grazie all’esperienza combinata di VMware, NVIDIA e dei nostri partner produttori di server, le aziende saranno in grado di sviluppare e distribuire l’AI con privacy, sicurezza e controllo dei dati“.
I server NVIDIA AI-ready sono progettati per fornire un’infrastruttura e un software full-stack accelerati per i settori impegnati nell’adozione dell’AI generativa per una vasta gamma di applicazioni, fra cui la scoperta di farmaci, le descrizioni dei prodotti al dettaglio, gli assistenti virtuali intelligenti, la simulazione nei manufacturing e il rilevamento delle frodi.
I server sono dotati di NVIDIA AI Enterprise, il sistema operativo della piattaforma NVIDIA AI. Il software offre supporto e sicurezza enterprise pronti per la produzione per oltre 100 framework, modelli preaddestrati, toolkit e software, fra cui NVIDIA NeMo per gli LLM, NVIDIA Modulus per le simulazioni, NVIDIA RAPIDS per la data science e NVIDIA Triton Inference Server per l’AI di produzione.
Costruite per gestire carichi di lavoro AI complessi con miliardi di parametri, le GPU L40S includono Tensor Core di quarta generazione e un FP8 Transformer Engine, per fornire oltre 1,45 petaflop di potenza di elaborazione tensor e prestazioni di training fino a 1,7 volte superiori rispetto alle GPU Tensor Core NVIDIA A100.
Per le applicazioni di intelligenza artificiale generativa come i chatbot intelligenti, gli assistenti, la ricerca e la sintesi, NVIDIA L40S offre prestazioni di inferenza dell’intelligenza artificiale generativa fino a 1,2 volte superiori rispetto alla GPU NVIDIA A100.
L’integrazione delle DPU NVIDIA BlueField consente di ottenere ulteriori incrementi di velocità grazie all’accelerazione, all’offloading e all’isolamento dell’enorme carico di calcolo di virtualizzazione, networking, storage, sicurezza e di altri servizi di AI cloud-native.
Le SmartNIC NVIDIA ConnectX-7 offrono offload hardware avanzati e latenza ultra-ridotta, offrendo prestazioni scalabili e di prim’ordine per i carichi di lavoro di AI generativa ad alta intensità di dati.
I principali produttori di computer del mondo stanno realizzando server NVIDIA AI-ready, fra cui Dell PowerEdge R760xa, HPE ProLiant Gen11 per VMware Private AI Foundation con NVIDIA e Lenovo ThinkSystem SR675 V3.
“L’AI generativa è un catalizzatore di innovazione che aiuta a risolvere alcune delle sfide più urgenti del mondo“, ha dichiarato Michael Dell, presidente e amministratore delegato di Dell Technologies. “Le soluzioni di intelligenza artificiale generativa di Dell con i server NVIDIA AI-ready svolgeranno un ruolo cruciale nell’avanzamento del progresso umano, portando a livelli di produttività senza precedenti e rivoluzionando il modo in cui le industrie operano“.
“L’AI generativa darà il via a una nuova scala di produttività per le aziende, dall’alimentazione di chatbot e assistenti digitali all’aiuto nella progettazione e nello sviluppo di nuove soluzioni“, ha dichiarato Antonio Neri, presidente e CEO di HPE. “Siamo lieti di continuare a lavorare a stretto contatto con NVIDIA per offrire le sue GPU e il suo software in una serie di soluzioni aziendali di tuning e di workload di inferenza che accelereranno le implementazioni dell’AI generativa“.
“Le aziende sono ansiose di adottare l’AI generativa per dare impulso alla trasformazione intelligente“, ha dichiarato Yang Yuanqing, presidente e CEO di Lenovo. “In collaborazione con NVIDIA e VMware, Lenovo estende ulteriormente la propria leadership nell’AI generativa e consolida la propria posizione unica nell’aiutare i clienti nel loro percorso verso l’AI“.
