Portare un agente AI sul desktop significa dargli accesso a file, applicazioni e informazioni che fino a poco tempo fa rimanevano nettamente separati dai modelli eseguiti nei data center. Con Hybrid Compute, Perplexity estende questo modello anche all’inferenza: il Mac non fornisce soltanto dati e strumenti all’agente, ma diventa una delle risorse sulle quali eseguire direttamente una parte del calcolo.
Perplexity Computer può quindi distribuire le diverse fasi dello stesso lavoro tra modelli frontier nel cloud e un modello eseguito localmente su Apple Silicon. Ricerca web, pianificazione e ragionamento più impegnativo possono rimanere sull’infrastruttura remota, mentre i sottocompiti che coinvolgono file privati o informazioni sensibili possono essere elaborati sul Mac, senza che l’utente debba scegliere in anticipo tra una modalità locale e una cloud.
La decisione viene presa durante l’esecuzione del task: Computer stabilisce di volta in volta dove svolgere ciascuna parte del lavoro, mantenendo nel cloud i passaggi che richiedono modelli più potenti e spostando sul dispositivo quelli compatibili con l’inferenza locale.
Da Computer al Personal Computer
Perplexity Computer, presentato a febbraio, nasce come sistema capace di trasformare una richiesta in un workflow articolato in attività e sottocompiti. Può scomporre un progetto complesso, delegare le diverse attività ad agenti specializzati e orchestrare più modelli frontier in parallelo, assegnando a ciascuno il compito per il quale è più adatto. Nella versione iniziale, però, questo sistema era disponibile sul web e l’esecuzione avveniva nel cloud di Perplexity.
Con Personal Computer, introdotto ad aprile nell’app Perplexity per macOS, lo stesso sistema di orchestrazione è stato esteso alla macchina dell’utente. Computer può così lavorare con file locali, applicazioni native, connettori e web all’interno dello stesso workflow, accedendo per esempio a Finder, Mail, Messaggi, Note e al browser Comet.
Personal Computer ha quindi reso l’architettura ibrida sul piano operativo: una parte del lavoro si svolge sul Mac, dove risiedono file e applicazioni, mentre altri componenti continuano a utilizzare i server di Perplexity.
Su un Mac mini, questa architettura può funzionare anche in modalità sempre attiva: Computer continua a operare sulla macchina e un task può essere avviato da iPhone, mantenendo accesso ai file e alle applicazioni del Mac.
Hybrid Compute interviene sul livello che fino a quel momento rimaneva prevalentemente remoto: l’inferenza dei modelli. Il Mac non è più soltanto il luogo in cui si trovano dati, applicazioni e azioni dell’agente, ma diventa anche una risorsa di calcolo sulla quale eseguire alcuni sottocompiti dello stesso workflow.
Un workflow, due luoghi di inferenza
Un’attività può iniziare nel cloud, dove un modello frontier pianifica il lavoro e svolge una ricerca sul web, per poi arrivare a una fase nella quale è necessario esaminare un documento riservato presente sul Mac. Quel sottocompito può essere trasferito al modello locale, senza spostare l’intero workflow fuori dall’infrastruttura di Perplexity, e una volta completato il passaggio locale Computer può tornare a utilizzare i modelli remoti per le fasi successive.
La collocazione dell’elaborazione diventa quindi una proprietà del singolo sottocompito, insieme alla scelta del modello e degli strumenti necessari per eseguirlo.
Negli agenti questa distinzione è particolarmente rilevante, perché un incarico apparentemente unitario può attraversare ambienti molto diversi. Analizzare documenti interni, confrontarli con informazioni pubbliche, produrre una sintesi e modificare il file finale costituiscono un unico processo dal punto di vista dell’utente, ma non richiedono necessariamente che ogni informazione coinvolta venga elaborata nello stesso luogo.
Il meccanismo può funzionare anche quando Computer viene controllato a distanza. Già con Personal Computer un task può essere avviato da iPhone e proseguito sul Mac, mentre la macchina continua a lavorare sui file e sulle applicazioni locali.
Un Privacy Gate prima del cloud
Prima dell’eventuale invio di informazioni verso i modelli remoti interviene un Privacy Gate eseguito sul dispositivo, che identifica informazioni personali riconducibili alle categorie PII – personally identifiable information – come nomi, indirizzi o numeri di conto.
I valori sensibili possono essere sostituiti localmente con segnaposto prima della trasmissione e reinseriti una volta ricevuto il risultato, permettendo al modello cloud di elaborare struttura e contesto senza ricevere necessariamente i dati originali presenti nel documento.
La classificazione avviene mediante pplx-pii-masking, un modello di circa 600 milioni di parametri basato su un encoder Qwen3 bidirezionale, progettato per individuare a livello di token differenti categorie di informazioni personali.
Hybrid Compute non equivale quindi a una modalità completamente locale: il cloud continua a partecipare al workflow, ma cambia la possibilità di decidere quali dati debbano raggiungerlo e quali elaborazioni possano rimanere sul dispositivo.
Un modello da 27 miliardi di parametri sul Mac
L’inferenza locale utilizza PPLX Qwen 3.8 27B, un modello da 27 miliardi di parametri derivato da Qwen 3.8 e adattato ai workload di Computer.
L’installazione avviene direttamente nell’app Perplexity per Mac, senza la necessità di predisporre separatamente un runtime come Ollama o di configurare manualmente un endpoint locale: il modello viene scaricato sulla macchina e diventa una delle risorse disponibili all’orchestratore.
Le elaborazioni effettuate localmente non consumano crediti cloud di Perplexity, e questo introduce anche una dimensione economica nella distribuzione del workload. Una parte dell’inferenza che altrimenti utilizzerebbe GPU nei data center può essere eseguita sfruttando CPU, GPU e memoria già presenti sul computer.
Il costo del calcolo non scompare completamente, perché viene trasferito sull’hardware e sull’energia del dispositivo, ma per un sistema agentico capace di generare grandi quantità di token la possibilità di utilizzare capacità locale già disponibile modifica comunque l’equilibrio tra costo marginale del cloud e risorse client.
L’AI riscopre l’ibrido
L’architettura scelta da Perplexity ripropone una dinamica che accompagna l’ICT da decenni. Il personal computing ha distribuito capacità di elaborazione precedentemente concentrate nei sistemi centrali, il modello client-server ha assegnato funzioni differenti alle macchine degli utenti e ai server, mentre il cloud ha successivamente riportato verso grandi infrastrutture centralizzate una parte crescente di applicazioni, dati e potenza di calcolo.
La centralizzazione non ha però eliminato il calcolo locale. Hybrid cloud ed edge computing hanno riportato alcuni workload vicino ai dati, ai dispositivi o ai processi che li producono quando latenza, costi, resilienza, sicurezza o requisiti normativi rendevano poco conveniente trasferire tutto nel cloud.
L’intelligenza artificiale sta seguendo una traiettoria analoga. I modelli frontier continuano a richiedere infrastrutture difficilmente replicabili su un personal computer, mentre modelli più piccoli, tecniche di quantizzazione e acceleratori sempre più potenti rendono possibile eseguire sul dispositivo una quota crescente dell’inferenza.
La contrapposizione tra cloud AI e on-device AI diventa quindi meno utile quando entrambe possono essere utilizzate nello stesso processo.
Con gli agenti cambia soprattutto la granularità della decisione. Nel cloud ibrido tradizionale il workload placement – la scelta del luogo in cui eseguire un carico di lavoro – può riguardare un’applicazione, un servizio, una macchina virtuale o un dataset; un orchestratore agentico può prendere una decisione equivalente più volte durante lo stesso task.
Una ricerca può essere eseguita nel cloud, un documento riservato elaborato localmente, una fase complessa di ragionamento tornare a un modello frontier remoto e il risultato finale essere scritto nuovamente sul computer.
L’orchestrazione non deve quindi stabilire soltanto quale modello utilizzare, ma anche dove eseguirlo, quali informazioni fornirgli e quali dati possano attraversare il confine tra dispositivo e infrastruttura remota.
Privacy e sovranità del dato sono solo una parte di questa equazione, che comprende anche costo dell’inferenza, latenza, disponibilità della rete e possibilità di sfruttare capacità di elaborazione già installata sui dispositivi. L’ibrido diventa così un problema di workload placement applicato all’AI.
Apple Silicon e il ruolo della memoria unificata
Sul Mac questa architettura sfrutta una caratteristica particolarmente favorevole all’inferenza locale: la memoria unificata di Apple Silicon, che consente a CPU, GPU e altri acceleratori di accedere allo stesso pool senza la separazione rigida tra RAM di sistema e memoria grafica dedicata tipica delle architetture PC con GPU discreta.
Per i modelli generativi è un vantaggio significativo, perché un modello di grandi dimensioni può richiedere decine di gigabyte di memoria e la disponibilità di un unico pool permette alle configurazioni Mac con molta memoria unificata di affrontare workload che richiederebbero GPU dotate di quantità comparabili di VRAM.
Hybrid Compute su Mac richiede Apple Silicon, macOS 15 o successivo e almeno 24 GB di memoria unificata, mentre 32 GB costituiscono la configurazione raccomandata.
Il requisito esclude quindi le numerose configurazioni Apple Silicon da 8 e 16 GB e concentra la funzione sui Mac dotati di maggiore capacità di memoria.
Il Mac mini assume una posizione particolare in questa architettura, perché Personal Computer poteva già utilizzarlo come macchina sempre accesa sulla quale l’agente opera su file, applicazioni e web anche quando l’utente si trova altrove. Hybrid Compute aggiunge la possibilità di trasformare quella stessa macchina in un nodo di inferenza locale.
Dall’orchestrazione dei modelli all’orchestrazione dell’infrastruttura
L’evoluzione di Computer segue una sequenza abbastanza netta. Perplexity Computer ha introdotto l’orchestrazione dei workflow e dei modelli, scomponendo una richiesta e distribuendola tra agenti e sistemi differenti; Personal Computer ha esteso quel modello al desktop, aggiungendo file locali, applicazioni native, browser e capacità di agire direttamente sul Mac; Hybrid Compute aggiunge ora una terza dimensione, facendo diventare anche il luogo nel quale viene eseguita l’inferenza una variabile controllata dall’orchestratore.
La distinzione tra locale e remoto non coincide più necessariamente con il confine tra due applicazioni o due modalità operative, ma può cambiare durante lo stesso lavoro, sottocompito dopo sottocompito.
Hybrid Compute applica così all’AI una logica già familiare all’IT: utilizzare la risorsa locale quando è adeguata al workload e raggiungere un’infrastruttura più potente quando il compito richiede capacità superiori. Con gli agenti, però, quella scelta può avvenire continuamente durante l’esecuzione, insieme alla selezione del modello, degli strumenti e dei dati necessari.
