NVIDIA ha annunciato una collaborazione con OpenAI per portare agli utenti la nuova famiglia di modelli open source GPT‑OSS, rendendo disponibile l’intelligenza artificiale avanzata, un tempo riservata ai data center cloud, con prestazioni elevate su pc e workstation RTX.
Questa partnership – sottolineano le due aziende – inaugura una nuova generazione di AI locale, potenziata dalle GPU GeForce RTX e RTX PRO. Sono disponibili due varianti progettate per diversi utilizzi:
- Il modello gpt-oss-20b, ottimizzato per PC NVIDIA RTX AI con almeno 16 GB di VRAM, in grado di processare fino a 250 token al secondo su una GPU RTX 5090.
- Il modello gpt-oss-120b, una versione più grande pensata per workstation professionali con GPU NVIDIA RTX PRO.
Questi modelli, addestrati su GPU NVIDIA H100, supportano la precisione MXFP4 su RTX, una tecnica che migliora accuratezza e qualità del modello senza penalizzare le prestazioni. Entrambe le versioni offrono una lunghezza di contesto fino a 131.072 token, tra le più grandi disponibili per inferenza locale, ed integrano architetture mixture-of-experts (MoE) con funzionalità come chain-of-thought, istruzioni e supporto all’uso di tool.
Il blog RTX AI Garage di questa settimana illustra come iniziare a usare i nuovi modelli OpenAI su GPU NVIDIA RTX:
- Ollama App: il modo più semplice per testare i modelli gpt‑oss, completamente ottimizzati per GPU RTX, grazie a un’interfaccia utente immediata.
- Llama.cpp: NVIDIA collabora con la community open source per ottimizzare le performance su GPU RTX. Tra le novità tecniche figurano le CUDA Graphs per ridurre il sovraccarico. Il codice è disponibile su GitHub.
- Microsoft AI Foundry: per sviluppatori Windows, i modelli sono disponibili in anteprima pubblica. Basta eseguire il comando Foundry model run gpt‑oss‑20b da terminale per iniziare.
Il fondatore e CEO di NVIDIA Jensen Huang ha sottolineato l’importanza di questo lancio: “OpenAI ha mostrato al mondo cosa si può costruire con l’AI di NVIDIA e ora sta promuovendo l’innovazione nel software open source. I modelli gpt‑oss permettono agli sviluppatori di tutto il mondo di costruire su basi open-source all’avanguardia, rinforzando la leadership tecnologica degli Stati Uniti nell’IA, grazie alla più grande infrastruttura di calcolo AI al mondo.”
Per iniziare subito con i nuovi modelli di OpenAI su RTX, è possibile consultare il blog post RTX AI Garage.
Per maggiori dettagli sulla collaborazione tra NVIDIA e OpenAI, è possibile visitare il blog aziendale di NVIDIA.
