NVIDIA amplia la propria strategia per l’intelligenza artificiale eseguita direttamente sui dispositivi. In occasione di IFA 2026, l’azienda ha annunciato insieme a Microsoft e ai propri partner una serie di aggiornamenti destinati a semplificare l’installazione degli agenti AI sui computer personali, aumentarne le prestazioni e distribuire i carichi di lavoro tra più dispositivi collegati alla stessa rete.
Le novità comprendono procedure più immediate per configurare modelli locali in Hermes Agent, OpenClaw e Perplexity Portable Computer, ottimizzazioni per i motori di inferenza llama.cpp e vLLM, il nuovo software open source NVIDIA Personal AI Router, abbreviato in PAIR, e l’arrivo a ottobre dei primi sistemi Windows basati sulla piattaforma NVIDIA RTX Spark.
L’obiettivo è consentire a sviluppatori, creatori di contenuti e appassionati di utilizzare modelli e agenti AI direttamente sull’hardware locale. In questo tipo di configurazione, l’elaborazione può avvenire sul computer dell’utente senza richiedere necessariamente l’invio continuo dei dati a un servizio cloud.
Una configurazione più semplice per gli agenti AI locali
L’esecuzione locale di un agente richiede normalmente diversi passaggi: occorre scegliere un modello compatibile, individuare il motore di inferenza, stabilire il livello di quantizzazione e mantenere aggiornati i diversi componenti software. La quantizzazione riduce la precisione numerica utilizzata dal modello per diminuire il consumo di memoria e rendere possibile l’esecuzione su dispositivi con risorse più contenute.
NVIDIA sta lavorando con i fornitori delle applicazioni per integrare queste impostazioni nei rispettivi strumenti. Hermes Agent, OpenClaw e Perplexity Portable Computer utilizzeranno llama.cpp e le più recenti ottimizzazioni NVIDIA per offrire procedure guidate o automatiche sui sistemi RTX e DGX.
L’intervento riguarda soprattutto la fase iniziale di configurazione: il software può riconoscere l’hardware disponibile, selezionare un modello appropriato e impostare il motore di inferenza senza richiedere all’utente di gestire manualmente ogni componente.
Perplexity Portable Computer combina elaborazione locale e cloud
Perplexity ha introdotto Portable Computer come ambiente integrato per eseguire il proprio agente su sistemi Linux, compreso NVIDIA DGX Spark. Modelli, strumenti e componenti di orchestrazione vengono riuniti all’interno della stessa applicazione.
Perplexity Portable Computer è disponibile sui sistemi Linux dotati di GPU NVIDIA RTX con almeno 24 GB di VRAM, mentre il supporto per Windows è previsto prossimamente. La VRAM è la memoria dedicata della scheda grafica e determina, insieme ad altri fattori, le dimensioni dei modelli e dei dati che possono essere elaborati direttamente dalla GPU.
Gli utenti possono completare flussi di lavoro locali senza utilizzare crediti per i modelli cloud. Quando una parte dell’attività richiede capacità aggiuntive di ricerca o ragionamento, Portable Computer può inoltrarla selettivamente a uno degli oltre 15 modelli disponibili online. Secondo la descrizione fornita da Perplexity, l’applicazione chiede l’autorizzazione prima di inviare contenuti al cloud.
Tra gli esempi presentati figurano l’analisi delle richieste di modifica aperte in un repository GitHub, l’esame di documenti finanziari e fiscali conservati sul computer e lo studio dei dati di utilizzo di un prodotto digitale. Nel primo caso, l’agente può classificare le richieste in base allo stato e aggiornare la documentazione; nel secondo può ricostruire costi e informazioni collegandoli ai relativi file e pagine; nel terzo può analizzare il percorso degli utenti e individuare i passaggi in cui si interrompe il processo di attivazione.
Hermes Agent riconosce automaticamente l’hardware NVIDIA
Hermes Agent, sviluppato da Nous Research, è un agente generalista indipendente dal modello e dal fornitore. Può utilizzare strumenti, conservare il contesto tra le attività, ricordare informazioni da una sessione all’altra e creare capacità riutilizzabili nel tempo.
La nuova configurazione locale con un solo clic è già disponibile su Windows per i PC RTX, le workstation RTX PRO e DGX Spark. Il supporto per Linux è invece previsto successivamente.
Durante l’installazione, Hermes rileva la GPU NVIDIA, sceglie una combinazione compatibile di modello e impostazioni e avvia l’elaborazione attraverso una versione integrata di llama.cpp. Le ottimizzazioni NVIDIA sono applicate automaticamente, eliminando la necessità di scaricare e configurare manualmente il modello.
Una volta completata la procedura, il funzionamento dell’agente rimane quello previsto dall’applicazione. Il modello viene però eseguito sulla GPU locale, mantenendo sul sistema i dati coinvolti nelle attività elaborate direttamente dal dispositivo.
OpenClaw prepara un’esperienza ottimizzata per Windows
NVIDIA e Microsoft stanno collaborando anche con OpenClaw per semplificare l’impiego dei modelli locali sui PC Windows. Il progetto open source ha superato, secondo i dati riportati nell’annuncio, 380.000 stelle su GitHub e viene utilizzato per costruire strumenti e capacità dedicate alla ricerca, allo sviluppo software, alla gestione dei progetti e alla produttività personale.
L’applicazione OpenClaw per Windows è progettata per facilitare la configurazione di un modello locale ottimizzato sui computer dotati di una GPU RTX con almeno 24 GB di VRAM. Anche in questo caso, l’obiettivo è ridurre il numero di operazioni necessarie per predisporre l’ambiente di esecuzione.
Inferenza fino a 1,9 volte più veloce con llama.cpp
L’inferenza è la fase in cui un modello già addestrato elabora una richiesta e produce un risultato. Per gli agenti locali, la velocità di questa operazione incide sia sui tempi di risposta sia sulla capacità di gestire più attività consecutive o parallele.
NVIDIA ha collaborato con le comunità open source di llama.cpp e vLLM per ottimizzare i carichi di lavoro agentici sulle proprie piattaforme. Le modifiche riguardano i kernel di calcolo, la decodifica speculativa e il prefill, cioè l’elaborazione iniziale delle informazioni fornite al modello prima della generazione della risposta.
Secondo i dati comunicati dall’azienda, llama.cpp raggiunge un throughput fino a 1,9 volte superiore su una GeForce RTX 5090. Il throughput indica la quantità di dati, generalmente misurata in token, che il sistema riesce a elaborare in un determinato intervallo di tempo.
Per vLLM, NVIDIA dichiara un incremento di 1,2 volte su RTX PRO 6000 Blackwell Workstation Edition e fino a 1,4 volte su un cluster composto da due DGX Spark. I miglioramenti comprendono nuovi kernel di attenzione XQA in FlashInfer e ottimizzazioni dei componenti che collegano il software all’hardware.
Gli aggiornamenti sono già disponibili nei motori di inferenza llama.cpp e vLLM. Possono essere utilizzati anche attraverso LM Studio e Ollama, applicazioni che facilitano il download, la gestione e l’esecuzione dei modelli locali.
NVIDIA PAIR distribuisce il lavoro tra più computer
Un agente può suddividere un’attività complessa in operazioni più piccole e assegnarle a diversi sottoagenti. Se tutte le richieste vengono elaborate dalla stessa GPU, però, i processi devono condividere le risorse disponibili.
Per gestire questi scenari, NVIDIA ha presentato Personal AI Router, o PAIR, un software gratuito e open source capace di coordinare più computer collegati alla medesima rete locale. PAIR rileva automaticamente i dispositivi compatibili e inoltra le richieste di inferenza indipendenti al sistema che dispone in quel momento di capacità libera.
Il programma funziona con Ollama e LM Studio e aggiorna la distribuzione delle attività quando un dispositivo si collega o si scollega dalla rete. Un utente può quindi far eseguire più processi in parallelo oppure spostare una parte del carico AI su un secondo computer mentre quello principale viene utilizzato per giocare, creare contenuti o svolgere altre attività.
Nell’esempio illustrato da NVIDIA, Hermes riceve il compito di organizzare una casella di posta, distinguendo i messaggi urgenti da quelli che possono attendere o essere ignorati. L’agente divide il lavoro tra diversi sottoagenti e PAIR assegna le relative richieste ai computer disponibili, evitando che tutte rimangano in attesa sulla stessa GPU.
La versione beta di NVIDIA PAIR è disponibile per Windows, macOS e Linux, sia con interfaccia grafica sia tramite terminale. Il software supporta le GPU GeForce RTX dalla serie 20 in poi, le GPU professionali NVIDIA RTX PRO basate su architettura Turing o successiva, DGX Spark e i dispositivi Apple con chip M4 o più recente.
PhotoDirector porta gli strumenti generativi sul dispositivo
L’elaborazione locale interessa anche le applicazioni creative. CyberLink introdurrà in PhotoDirector 365 una nuova modalità denominata AI PC Mode, ottimizzata per NVIDIA RTX Spark e prevista in concomitanza con il lancio della piattaforma a ottobre.
La modalità integrerà modelli di diffusione direttamente nel software fotografico. Questi modelli generano o modificano immagini attraverso un processo graduale che ricostruisce il contenuto visivo a partire da una rappresentazione inizialmente rumorosa.
AI PC Mode includerà strumenti per la modifica generativa, il miglioramento delle immagini, la rimozione di oggetti ed elementi di disturbo, la separazione o sostituzione dello sfondo, il ritocco dei ritratti e la creazione di nuovi contenuti visivi. Gli utenti potranno scegliere, in base all’attività, se utilizzare l’elaborazione locale oppure quella nel cloud.
Sulle GPU NVIDIA, PhotoDirector utilizza TensorRT-RTX e il formato numerico FP8 per accelerare i modelli AI eseguiti sul dispositivo. TensorRT-RTX è una tecnologia di ottimizzazione dell’inferenza, mentre FP8 rappresenta i dati numerici con otto bit per contenere l’uso della memoria e aumentare la velocità di alcune operazioni.
I PC NVIDIA RTX Spark arriveranno a ottobre
La piattaforma NVIDIA RTX Spark debutterà nell’ottobre 2026 attraverso computer Windows realizzati da diversi produttori. A IFA, Acer ha mostrato il progetto di un desktop compatto, mentre Lenovo ha annunciato i modelli Yoga Pro 9n e Yoga 9n 2-in-1. Questi sistemi si aggiungono ai dispositivi dei sei produttori già indicati per le consegne di ottobre.
RTX Spark combina una GPU RTX basata sull’architettura Blackwell, una memoria unificata fino a 128 GB e una CPU Grace a 20 core. NVIDIA attribuisce alla GPU una capacità di calcolo di 1 petaflop, pari a un milione di miliardi di operazioni in virgola mobile al secondo nelle condizioni e nei formati previsti dalla piattaforma.
La memoria unificata permette alla CPU e alla GPU di accedere a una riserva comune, una caratteristica destinata a facilitare l’esecuzione di modelli AI di grandi dimensioni senza dover trasferire continuamente i dati tra aree di memoria separate.
La piattaforma è pensata per computer portatili sottili e desktop compatti destinati ad agenti AI, creazione di contenuti e videogiochi. In combinazione con il nuovo framework per agenti di Windows, RTX Spark consentirà l’esecuzione in background di questi programmi sotto il controllo del sistema operativo.
Anche il settore videoludico rientra nel lancio. Electronic Arts, Embark e Ubisoft hanno annunciato il supporto dei propri titoli ai PC RTX Spark, affiancandosi a KRAFTON, NetEase, Riot Games e Xbox, già citati da NVIDIA durante il Computex di maggio.
I nuovi modelli destinati all’elaborazione locale
Gli annunci di IFA si inseriscono in una serie di aggiornamenti presentati nel mese di agosto per le piattaforme NVIDIA. Tra questi figura Nemotron 3.5 Lightning, un modello da 30 miliardi di parametri eseguibile su PC RTX, workstation RTX PRO, DGX Spark e Jetson.
Z.ai ha portato su DGX Station GLM-5.3-Flash, un modello multimodale basato su un’architettura mixture-of-experts. Nei modelli MoE, la rete è suddivisa in gruppi di componenti specializzati, chiamati esperti, e per ogni richiesta viene attivata soltanto una parte del sistema.
Qwen ha rilasciato Qwen3.8-Flash-Next, modello multimodale MoE a pesi aperti compatibile con DGX Spark e DGX Station, insieme a Qwen3.8-27B, un modello aperto da 27 miliardi di parametri ottimizzato per le attività agentiche e di programmazione sulle GPU NVIDIA.
Per la generazione video, LTX 2.5 è stato ottimizzato per GPU RTX, DGX Spark e DGX Station attraverso miglioramenti relativi a NVFP4, FastVideo e ComfyUI. MiniMax-H3 può invece generare video con audio sincronizzato ed essere eseguito localmente sulle GPU NVIDIA tramite ComfyUI. FastVideo e i ricercatori NVIDIA hanno inoltre sviluppato FastH3, una versione distillata in quattro passaggi alla quale viene attribuito un miglioramento prestazionale di sette volte. Le procedure FastVideo ottimizzate per GPU RTX e DGX Spark sono previste prossimamente.
Meta Muse Glimmer, modello a pesi aperti da 30 miliardi di parametri per programmazione e attività agentiche, può funzionare su PC GeForce RTX, DGX Spark, DGX Station e Jetson. NVIDIA ha accompagnato il modello con una quantizzazione NVFP4 compatibile con DGX Spark.
DeepSeek v4 Flash utilizza infine un’architettura MoE da 284 miliardi di parametri complessivi, dei quali 13 miliardi attivi durante l’elaborazione. Il modello può essere eseguito localmente su DGX Station oppure su un cluster formato da due DGX Spark.
Un ecosistema comune per agenti, modelli e applicazioni locali
Le novità presentate a IFA 2026 intervengono su più livelli dell’intelligenza artificiale locale. Le configurazioni integrate in Hermes, OpenClaw e Perplexity Portable Computer riducono i passaggi necessari per avviare gli agenti; le ottimizzazioni di llama.cpp e vLLM aumentano la velocità dell’inferenza; PAIR permette di utilizzare congiuntamente le risorse di più computer; RTX Spark introduce una nuova piattaforma Windows destinata a questi carichi di lavoro.
In parallelo, l’arrivo di modelli aperti per programmazione, attività agentiche, immagini e video estende le applicazioni eseguibili sull’hardware NVIDIA. Il calendario indicato distingue le funzioni già disponibili, come le ottimizzazioni dei motori di inferenza, la configurazione Windows di Hermes e la beta di PAIR, dai prodotti attesi successivamente, tra cui il supporto Windows di Perplexity Portable Computer, il supporto Linux di Hermes, PhotoDirector AI PC Mode e i primi computer RTX Spark previsti per ottobre.
