Microsoft ha annunciato la disponibilità in preview della nuova generazione di GPU VM Azure, NC A100 v4 series.
Queste virtual machine sono dotate di GPU PCIe Tensor Core Nvidia A100 80GB e di processori Amd Epyc Milan di terza generazione.
Queste nuove offerte – ha affermato Microsoft – migliorano le prestazioni e il rapporto costo-efficacia di una varietà di carichi di lavoro di training e inferenza di intelligenza artificiale, legati alle prestazioni delle GPU nel mondo reale.
Tali workload coprono vari ambiti: rilevamento degli oggetti, elaborazione video, classificazione delle immagini, riconoscimento vocale, recommender, reinforcement learning per la guida autonoma, simulazione dei giacimenti di petrolio e gas, analisi dei documenti finanziari, inferenza sul web e molto altro ancora.
È Microsoft stessa a delineare il contesto del lancio.
L’intelligenza artificiale nel mondo reale – sottolinea la società di Redmond – ha cambiato il modo in cui le persone vivono nel corso dell’ultimo decennio, in settori come i media e l’intrattenimento, la sanità e le scienze della vita, la vendita al dettaglio, le automobili, i servizi finanziari, la produzione e altro.
Parlare con un dispositivo per la smart home, navigare sui social media con contenuti consigliati o spostarsi con un veicolo a guida autonoma non sono più cose del futuro.
Tutti questi progressi sono stati resi possibili grazie alle nuove scoperte dell’intelligenza artificiale nel software e nell’hardware.
Microsoft stessa – mette in evidenza l’azienda – ospita l’inferencing del suo deep learning, la scienza cognitiva e i servizi di intelligenza artificiale applicata sulle istanze della serie NC.
Le esperienze e i progressi fatti in queste aree per quanto riguarda l’infrastruttura, da parte di Microsoft, stanno aiutando l’azienda a orientare le decisioni di progettazione per la prossima generazione del sistema NC.
Grazie a questo, sottolinea ancora la società di Redmond, i clienti Azure sono in grado di beneficiare di ciò che Microsoft apprende internamente.
La serie NC A100 v4 offre tre classi di VM che vanno da una a quattro GPU PCIe Tensor Core Nvidia A100 80GB. Ed è ancora più conveniente, pur offrendo ai clienti le opzioni e la flessibilità necessarie per i loro carichi di lavoro.
Rispetto alla precedente generazione NC (NCv3) con GPU basate su architettura Nvidia Volta, Microsoft sostiene che i clienti potranno vedere un incremento della performance con prestazioni da 1,5 a 2,5 volte superiori.
Ciò, grazie a una serie di potenziamenti: due volte la larghezza di banda da GPU a host; quattro volte i core vCPU per GPU VM; due volte la RAM per GPU VM; sette istanze GPU indipendenti su una singola GPU Nvidia A100 attraverso Multi-Instance GPU (MIG) su sistema operativo Linux.
Con quest’ultima aggiunta alla serie NC, secondo Microsoft sarà possibile ridurre il tempo necessario per addestrare i modelli a circa la metà del tempo e rimanendo ancora entro il budget.
