Perplexity porta il suo agente AI sui computer locali con NVIDIA DGX Spark

perplexity nvidia

Perplexity e NVIDIA hanno annunciato Portable Computer, una versione di Perplexity Computer progettata per funzionare direttamente sull’hardware dell’utente. Il nuovo agente di intelligenza artificiale debutta su NVIDIA DGX Spark, il sistema desktop basato sulla piattaforma Grace Blackwell, e punta a gestire localmente attività che coinvolgono documenti riservati, codice sorgente e altri dati sensibili.

L’obiettivo è ridurre la dipendenza dal cloud senza rinunciare completamente ai servizi online. Portable Computer può analizzare file, cercare informazioni all’interno di documenti e repository, pianificare attività ed eseguire flussi di lavoro sul dispositivo. Quando servono dati aggiornati, l’accesso al web o modelli più avanzati, il sistema può trasferire una parte del lavoro al cloud, ma soltanto dopo l’autorizzazione dell’utente.

La prima versione è disponibile su Linux per gli abbonati Perplexity Pro e Max che utilizzano DGX Spark. NVIDIA descrive questa fase come un’anteprima. Il supporto per Windows è previsto a settembre, mentre una versione destinata ai PC equipaggiati con GPU NVIDIA RTX dovrebbe arrivare successivamente.

Che cosa significa davvero “local-first”

Portable Computer non è un semplice chatbot installato sul computer. Il prodotto comprende l’intera infrastruttura necessaria per coordinare un agente AI: il sistema di orchestrazione, il pianificatore, il componente che seleziona gli strumenti, lo scheduler, la coda delle attività persistenti e l’indice per la ricerca locale. Secondo Perplexity, tutti questi elementi vengono eseguiti sul dispositivo.

Un agente di questo tipo può ricevere un obiettivo articolato, suddividerlo in passaggi, individuare gli strumenti necessari e continuare a lavorare anche durante attività di lunga durata. Può, per esempio, esaminare una cartella di documenti, confrontare informazioni distribuite in file differenti, analizzare una base di codice o preparare una sintesi senza inviare automaticamente il contenuto ai server dell’azienda.

La definizione local-first, tuttavia, non equivale a “esclusivamente locale”. L’elaborazione sul dispositivo rappresenta il percorso predefinito, ma il cloud rimane disponibile per le operazioni che richiedono informazioni esterne, l’uso del browser, applicazioni connesse o capacità di ragionamento non offerte dal modello installato.

Questa architettura ibrida cerca di risolvere uno dei principali limiti degli agenti basati interamente sul cloud: la necessità di trasferire documenti e contesto operativo a un servizio remoto anche quando il compito potrebbe essere svolto sulla macchina dell’utente.

I modelli eseguiti su DGX Spark

Screenshot

Portable Computer può utilizzare su DGX Spark Qwen 3.8 27B oppure PPLX 27B, una versione del modello Qwen sottoposta a un ulteriore processo di addestramento da Perplexity. La sigla 27B indica una rete con circa 27 miliardi di parametri, quindi abbastanza grande da richiedere una quantità considerevole di memoria e capacità di calcolo per essere eseguita con prestazioni adeguate.

Il modello è stato ottimizzato per completare localmente la maggiore porzione possibile di ogni attività. Può leggere file, effettuare ricerche tra documenti e codice, utilizzare strumenti disponibili sul dispositivo e mantenere in esecuzione lavori persistenti. Se il compito supera le sue capacità o richiede informazioni non presenti sul computer, l’orchestratore può proporre il passaggio al cloud.

Nel selettore dei modelli dovrebbe essere aggiunto anche NVIDIA Nemotron 3.5 Lightning, un modello aperto da 30 miliardi di parametri. Perplexity lo indica come una funzionalità in arrivo, quindi non ancora parte dell’offerta iniziale.

Per la dettatura viene invece utilizzato NVIDIA Nemotron 3.5 ASR, un modello di riconoscimento vocale eseguito localmente. L’utente può impartire istruzioni mentre consulta un documento o lavora su una base di codice, mantenendo sul computer sia l’audio sia la trascrizione. È un caso d’uso particolarmente rilevante negli ambienti professionali nei quali anche una registrazione vocale può contenere informazioni riservate.

Il ruolo dell’hardware NVIDIA

nvidia-dgx-spark

Il primo sistema supportato è NVIDIA DGX Spark, un computer AI da scrivania costruito intorno alla piattaforma Grace Blackwell GB10. La configurazione comprende una CPU Arm a 20 core, una GPU NVIDIA e 128 GB di memoria unificata, condivisa tra processore e acceleratore grafico.

La memoria unificata è un elemento centrale per l’esecuzione locale dei modelli linguistici. Evita di separare rigidamente la memoria della CPU da quella della GPU e permette di gestire modelli più grandi rispetto a quelli normalmente utilizzabili su un PC tradizionale con una quantità limitata di memoria video.

DGX Spark offre inoltre le prestazioni di inferenza e la continuità operativa necessarie per gli agenti che devono rimanere attivi a lungo. L’inferenza è la fase nella quale un modello già addestrato elabora una richiesta e genera una risposta o un’azione. Nel caso di Portable Computer non si tratta soltanto di produrre testo, ma di coordinare ricerche, accesso ai file, strumenti e attività programmate.

Perplexity prevede un’installazione semplificata attraverso la propria applicazione. L’estensione futura ai PC con GPU RTX sarà però decisiva per capire se il prodotto resterà legato a una piattaforma specializzata oppure potrà raggiungere un pubblico professionale più ampio.

Quando l’agente ricorre al cloud

Il modello locale conosce i dati presenti sul computer e ciò che ha appreso durante l’addestramento, ma non può disporre autonomamente delle informazioni più recenti. Portable Computer può quindi utilizzare la ricerca di Perplexity e le modalità di ricerca più estese quando un’attività richiede fonti aggiornate.

Un caso esemplificativo riguarda l’analisi di un contratto o di un term sheet. Le clausole riservate possono essere elaborate localmente, mentre il cloud viene utilizzato soltanto per recuperare confronti di mercato o precedenti recenti. In questo modo il documento originale dovrebbe restare sul dispositivo, mentre all’esterno viene affidata la parte del lavoro che dipende da informazioni pubbliche.

L’orchestratore può accedere anche a più di 15 modelli cloud per le attività di ragionamento avanzato. Questa possibilità amplia le capacità del sistema, ma introduce un confine che l’utente deve comprendere: la riservatezza dipende non soltanto da dove viene eseguito il modello principale, ma anche da quali dati vengono inclusi nelle richieste inviate ai servizi esterni.

Perplexity afferma che Portable Computer chiede il permesso prima di trasferire contenuti dal dispositivo a un servizio cloud. Questo passaggio è essenziale, ma la sua efficacia dipenderà dalla chiarezza delle autorizzazioni: un utente deve poter capire quali informazioni stanno per uscire dalla macchina, verso quale servizio vengono inviate e per quale scopo.

File locali, applicazioni connesse e flussi di lavoro automatici

Portable Computer può collegarsi a servizi come Google Drive, Gmail, Outlook, Slack e GitHub. L’integrazione consente di costruire flussi di lavoro che combinano dati locali e applicazioni aziendali.

Un agente potrebbe, per esempio, confrontare le nuove segnalazioni presenti su GitHub con i rapporti sui problemi ricevuti via email durante la notte, individuare le tre anomalie più importanti e preparare un messaggio per Slack con una proposta di assegnazione. Una parte dell’analisi può avvenire sul dispositivo, mentre l’interazione con i servizi collegati richiede necessariamente una comunicazione esterna.

Perplexity sostiene che il codice e gli strumenti vengano eseguiti in ambienti sandbox isolati, dotati di accesso controllato ai file e alle applicazioni. La sandbox serve a limitare ciò che un’azione automatizzata può raggiungere, riducendo il rischio che un comando errato o una procedura non prevista coinvolgano risorse estranee all’attività.

L’isolamento costituisce una protezione importante, ma non elimina tutti i rischi. Un agente autorizzato a leggere documenti, modificare file e inviare messaggi può produrre conseguenze concrete. Nelle organizzazioni serviranno quindi regole precise sui permessi, registri delle operazioni e procedure di verifica per le azioni più delicate.

Il vantaggio economico dell’elaborazione locale

Secondo Perplexity, le attività completate dai modelli locali non consumano crediti. Chi dispone dell’hardware può quindi eseguire un volume elevato di operazioni senza sostenere un costo legato a ogni singola richiesta.

Il modello economico cambia: una parte della spesa si sposta dall’utilizzo del servizio cloud alla disponibilità della capacità di calcolo locale. Questa impostazione può risultare interessante per sviluppatori, studi professionali, gruppi di ricerca e aziende che elaborano grandi quantità di materiale o mantengono agenti attivi per molte ore.

Il vantaggio non è però automatico. Occorre considerare l’investimento nell’hardware, i consumi, la gestione del sistema, gli aggiornamenti e il livello di competenza necessario per amministrare un ambiente locale. Inoltre, quando il lavoro viene trasferito ai modelli cloud, possono tornare ad applicarsi i meccanismi di consumo previsti dal servizio.

L’affermazione secondo cui Portable Computer offrirebbe risultati superiori in accuratezza, velocità ed efficienza dei crediti deriva dalla documentazione di Perplexity. Le fonti dell’annuncio non riportano configurazioni di prova, valori completi o confronti sufficienti per valutare autonomamente questi risultati. Le prestazioni reali dovranno quindi essere verificate su attività e carichi di lavoro indipendenti.

Una nuova competizione tra cloud e AI personale

L’iniziativa segnala una possibile evoluzione del mercato degli agenti. Dopo una prima fase dominata dai servizi cloud, modelli più efficienti e computer dotati di grandi quantità di memoria stanno rendendo possibile riportare una parte dell’intelligenza artificiale sulle macchine personali.

Per NVIDIA, Portable Computer aggiunge un’applicazione concreta all’ecosistema DGX Spark e rafforza la domanda di hardware progettato per l’inferenza locale. Per Perplexity, il prodotto permette di estendere il proprio servizio oltre la ricerca online e di entrare nei flussi di lavoro che coinvolgono dati non adatti a essere caricati integralmente nel cloud.

La collaborazione crea anche una dipendenza più stretta dall’ecosistema NVIDIA. Nella fase iniziale, l’esperienza completa richiede DGX Spark; successivamente dovrebbe raggiungere i PC RTX. Questo può offrire ottimizzazioni e un’installazione più semplice, ma restringe la scelta dell’hardware e potrebbe esercitare pressione sulle alternative basate su altri acceleratori o su configurazioni più aperte.

Sul piano competitivo, Portable Computer non sostituisce i modelli cloud più avanzati. Propone piuttosto una divisione del lavoro: privacy e continuità operativa sul dispositivo, aggiornamento delle informazioni e maggiore capacità di ragionamento nel cloud. Se questo approccio si dimostrerà affidabile, altri fornitori di agenti AI potrebbero essere spinti a offrire controlli locali più estesi e autorizzazioni più trasparenti.

Opportunità e questioni ancora aperte

Portable Computer affronta esigenze reali: proteggere informazioni sensibili, contenere i costi delle attività ripetitive, ridurre la dipendenza dalla connessione e consentire agli agenti di lavorare a lungo sui dati dell’utente. La combinazione tra modelli locali, ricerca web e servizi cloud può risultare più flessibile di una soluzione rigidamente confinata in uno solo dei due ambienti.

Restano tuttavia diverse questioni da verificare. Sarà necessario misurare la qualità dei modelli locali nelle attività complesse, la frequenza con cui il sistema richiede l’intervento del cloud, la precisione con cui separa i dati riservati da quelli trasferibili e l’effettiva comprensibilità delle richieste di autorizzazione. Anche la stabilità degli agenti di lunga durata e la sicurezza delle azioni automatiche dovranno essere valutate al di fuori dei test condotti dai produttori.

La disponibilità iniziale limitata a DGX Spark e agli abbonamenti Pro e Max rende il debutto soprattutto una prova per utenti avanzati e professionisti. L’arrivo su Windows e sui PC RTX dirà se Portable Computer potrà trasformarsi in un prodotto più accessibile.

L’annuncio mostra comunque una direzione precisa: l’intelligenza artificiale personale non sarà necessariamente un sistema completamente isolato dal cloud, ma potrebbe diventare un ambiente ibrido nel quale l’utente controlla dove vengono elaborati i dati e quando una parte del lavoro può lasciare il dispositivo. È su questa capacità di controllo, più ancora che sulle sole prestazioni dei modelli, che si misurerà il valore concreto di Portable Computer.

Se questo articolo ti è piaciuto e vuoi rimanere sempre informato sulle novità tecnologiche

LASCIA UN COMMENTO

Inserisci il tuo commento
Inserisci il tuo nome