Meta Muse Spark Open, il modello AI open-weight più potente degli USA con 816 miliardi di parametri

Con Muse Spark Open, Meta rivendica il primato statunitense nei modelli di intelligenza artificiale a pesi aperti, un segmento nel quale la competizione internazionale vede particolarmente attivi gli sviluppatori cinesi. Il nuovo modello multimodale dispone di 816 miliardi di parametri complessivi, dei quali soltanto 42 miliardi attivi durante l’inferenza, ed è progettato per lo sviluppo software, il ragionamento complesso e l’esecuzione di attività agentiche.

La pubblicazione dei pesi consente agli sviluppatori di eseguire e personalizzare Muse Spark Open su infrastrutture proprie. Grazie all’architettura mixture-of-experts (MoE) e alle tecniche di quantizzazione, il modello può funzionare anche su una singola workstation con circa 300 GB di memoria complessiva, mentre Meta ha collaborato con Apple per ottimizzarne l’esecuzione distribuita su Mac Studio M5 Ultra.

La scelta di una distribuzione open-weight assume particolare rilevanza nel mercato statunitense, dove i modelli di frontiera di OpenAI, Anthropic e Google rimangono prevalentemente proprietari. Meta rende invece accessibili i pesi del modello, pur adottando una licenza che prevede restrizioni e condizioni commerciali differenti da quelle delle licenze open source permissive.

Con una finestra di contesto di un milione di token e capacità native di elaborazione di testo, immagini, audio e video, Muse Spark Open è destinato principalmente allo sviluppo di agenti AI capaci di interagire con applicazioni, utilizzare strumenti software e completare attività articolate attraverso numerose operazioni successive.

Il primato rivendicato da Meta riguarda specificamente i modelli statunitensi a pesi aperti. Nel confronto internazionale, Muse Spark Open ottiene risultati competitivi soprattutto nell’utilizzo degli strumenti e nell’automazione agentica, mentre modelli cinesi come Kimi K3, GLM 5.3 e Qwen3.8 conservano un vantaggio in diverse prove di programmazione e ragionamento.

Come funziona l’architettura mixture-of-experts di Muse Spark Open

Muse Spark Open utilizza un’architettura mixture-of-experts nella quale i parametri sono distribuiti tra componenti specializzati, selezionati dinamicamente in funzione delle informazioni da elaborare.

La rete comprende 256 esperti, dei quali otto vengono attivati per ciascun token, insieme alle componenti condivise dell’architettura. Il modello dispone così di 816 miliardi di parametri complessivi, utilizzandone circa il 5% durante ogni passaggio di elaborazione.

La selezione degli esperti riduce il numero di operazioni matematiche rispetto a un modello denso di dimensioni analoghe. Il fabbisogno di memoria rimane invece legato alla necessità di mantenere disponibili tutti i parametri, poiché esperti differenti possono essere selezionati durante la generazione.

L’architettura comprende 62 livelli Transformer, 128 teste di attenzione per le query e 16 per le chiavi e i valori. Lo schema grouped-query attention, che permette a più teste di interrogazione di condividere le rappresentazioni di chiavi e valori, riduce la memoria necessaria per gestire le sequenze elaborate.

Un encoder multimodale da 1,8 miliardi di parametri permette di interpretare screenshot, grafici, documenti, immagini, registrazioni audio e video. Il modello genera risposte testuali, mentre l’addestramento su dati in oltre cento lingue ne supporta l’impiego in applicazioni multilingue.

La finestra di contesto da un milione di token consente di elaborare repository software estesi, documentazione tecnica e lunghe sequenze di interazioni. Gli sviluppatori possono inoltre regolare il reasoning effort su quattro livelli, da low a xhigh, modificando la quantità di elaborazione dedicata al ragionamento in funzione della complessità delle richieste.

Muse Spark Open può funzionare su una workstation con circa 300 GB di memoria

Le dimensioni dei pesi dipendono dalla precisione numerica utilizzata per rappresentarli. La versione BF16 occupa circa 1,6 TB, mentre la quantizzazione NVFP4 riduce il modello a circa 530 GB, comprimendo a quattro bit i parametri degli esperti e mantenendo una precisione superiore per le altre componenti.

La model card ufficiale indica un fabbisogno di circa 2 TB di memoria GPU per la versione BF16 e almeno 700 GB per quella NVFP4, considerando anche le risorse necessarie all’esecuzione.

La collaborazione con Unsloth ha prodotto versioni del modello nel formato GGUF, utilizzato da llama.cpp per l’inferenza locale. I pesi sono quantizzati fino a circa due bit, riducendo il fabbisogno complessivo a circa 300 GB di memoria RAM e VRAM, oppure di memoria unificata sui sistemi Apple Silicon.

Il modello può quindi funzionare su una singola workstation attraverso Unsloth Desktop, disponibile per macOS, Windows e Linux. L’inferenza può essere distribuita tra CPU e GPU, mantenendo parte dei pesi nella RAM di sistema quando la memoria video è insufficiente.

Questa configurazione permette anche di esporre Muse Spark Open attraverso endpoint API compatibili con quelli di OpenAI e Anthropic, utilizzabili da applicazioni e agenti di sviluppo software.

La compressione più spinta può introdurre differenze nella qualità delle risposte rispetto alle versioni con precisione superiore, mentre le prestazioni dipendono dalla quantità di memoria accessibile direttamente alla GPU e dalla banda disponibile per trasferire i parametri.

Una configurazione con 300 GB di memoria rimane impegnativa per una workstation, soprattutto se parte dei pesi viene elaborata attraverso la CPU. L’esecuzione locale può quindi comportare velocità di generazione sensibilmente inferiori rispetto a quelle ottenibili sui sistemi con acceleratori dedicati.

Due Mac Studio M5 Ultra per l’inferenza distribuita

Meta e Apple hanno sviluppato una configurazione basata su due Mac Studio M5 Ultra con 512 GB di memoria unificata ciascuno, per una capacità complessiva di 1 TB. In alternativa, il modello può essere distribuito su quattro Mac Studio con 256 GB di memoria ciascuno.

I sistemi comunicano attraverso Thunderbolt 5 e RDMA (Remote Direct Memory Access), una tecnologia che permette il trasferimento diretto dei dati tra le memorie delle macchine, riducendo il coinvolgimento delle CPU e la latenza delle comunicazioni.

L’esecuzione utilizza MLX, il framework open source sviluppato da Apple per il machine learning sui propri processori, attraverso un adattatore specifico per Muse Spark Open, che supporta il checkpoint NVFP4.

Attraverso il tensor parallelism, ogni livello del modello viene suddiviso tra i sistemi, assegnando a ciascuna macchina una parte dei pesi e delle operazioni matematiche. I parametri rimangono residenti nella memoria locale e attraverso la connessione vengono trasferiti soltanto i risultati intermedi necessari per coordinare l’elaborazione.

La banda di memoria del processore M5 Ultra raggiunge 1,2 TB/s per sistema, consentendo alla GPU integrata di accedere rapidamente ai parametri degli esperti selezionati.

Il costo della configurazione necessaria è considerevole. Il Mac Studio M5 Ultra parte in Italia da 6.699 euro, nella versione con 96 GB di memoria unificata. L’esecuzione distribuita di Muse Spark Open richiede invece due sistemi da 512 GB oppure quattro macchine da 256 GB.

Apple ha programmato la disponibilità della configurazione da 512 GB per la fine di ottobre 2026, senza averne ancora pubblicato il prezzo italiano. L’investimento per i due Mac Studio sarà quindi sensibilmente superiore ai 13.398 euro necessari per acquistare due modelli base.

La convenienza economica dell’inferenza locale rispetto ai servizi cloud dipende dal volume delle elaborazioni e dalle prestazioni effettive; tuttavia Meta non ha ancora pubblicato misurazioni della velocità di generazione, in token al secondo, per la configurazione Apple.

Dallo sviluppo di applicazioni iOS al montaggio video

Meta ha sperimentato Muse Spark Open in attività agentiche eseguite interamente sui Mac Studio, utilizzando Muse Code, il proprio ambiente di sviluppo software assistito dall’intelligenza artificiale.

Una delle dimostrazioni riguarda Ice Cubes, client open source di Mastodon per iOS. Il modello è stato utilizzato per correggere errori, sviluppare nuove funzionalità e compilare l’applicazione, gestendo una sequenza di operazioni che comprende la modifica del codice e la verifica del risultato.

Un secondo esperimento utilizza DaVinci Resolve per automatizzare un flusso di montaggio video. Muse Spark Open esamina i filmati fotogramma per fotogramma, individua le sequenze più interessanti e modifica l’inquadratura per adattare il contenuto a un formato verticale.

L’agente utilizza le informazioni ricavate dalle operazioni precedenti per determinare quelle successive, combinando interpretazione visiva, generazione di codice e interazione con applicazioni esterne.

La stessa modalità operativa può essere utilizzata su repository proprietari, documenti aziendali e materiali audiovisivi mantenuti sull’infrastruttura locale, evitando di trasferirli a un servizio di inferenza remoto.

I benchmark: primato statunitense, competizione aperta con i modelli cinesi

Muse Spark Open si colloca ai vertici dei modelli statunitensi a pesi aperti soprattutto nelle attività agentiche. I confronti comprendono NVIDIA Nemotron 3 Ultra, Thinking Machines Inkling e Beam, oltre a Mistral Large 4 e ai modelli cinesi Kimi K3, GLM 5.3 e Qwen3.8.

Il vantaggio più netto di Muse Spark Open riguarda l’utilizzo di strumenti software, mentre le differenze rispetto ai concorrenti cinesi diventano più marcate nelle prove di programmazione.

In JobBench, che valuta attività professionali riconducibili a 35 occupazioni, Muse Spark Open raggiunge il 61,8%, sostanzialmente allo stesso livello di GLM 5.3 (61,4%) e davanti a Kimi K3 (54,3%). In MCP-Atlas, dedicato all’utilizzo degli strumenti attraverso il Model Context Protocol, il modello di Meta raggiunge l’89,2%, superando tutti i concorrenti considerati.

Anche OSWorld-Verified, che misura la capacità degli agenti di interagire con un ambiente desktop Linux attraverso screenshot, clic, digitazione e altre operazioni sull’interfaccia grafica, mostra risultati elevati: Muse Spark Open raggiunge l’80,4%, contro l’84,8% di Kimi K3.

Nello sviluppo software la competizione appare più difficile. In Terminal-Bench 2.1, che comprende attività di programmazione, amministrazione di sistema, elaborazione dati e sicurezza svolte attraverso un terminale, Muse Spark Open raggiunge il 76,4%, contro l’85% di Kimi K3 e l’83,9% di GLM 5.3.

Nei benchmark dedicati al ragionamento scientifico e alla conoscenza generale, Muse Spark Open registra risultati differenti a seconda della prova. Supera Kimi K3, GLM 5.3 e Qwen3.8 in HLE-Diamond senza strumenti, ma rimane dietro ai tre concorrenti in GPQA Diamond.

Anche nelle valutazioni multimodali emergono specializzazioni differenti: Muse Spark Open supera Kimi K3 in ZeroBench e SimpleVQA, mentre il modello cinese ottiene risultati migliori in BabyVision e Video-MME v2.

L’Artificial Analysis Intelligence Index, che aggrega diverse valutazioni delle capacità dei modelli, assegna a Muse Spark Open un punteggio di 39, vicino a Qwen3.8 (40) e Mistral Large 4 (38), ma inferiore a GLM 5.3 (45) e Kimi K3 (44).

Il quadro complessivo conferma la competitività di Muse Spark Open tra i modelli statunitensi a pesi aperti, soprattutto per le capacità agentiche, mentre il confronto internazionale rimane favorevole ai concorrenti cinesi in diverse categorie di attività.

I risultati pubblicati nella model card comprendono misurazioni interne, classifiche indipendenti e punteggi dichiarati dagli sviluppatori concorrenti. Le differenze nelle configurazioni di ragionamento e negli ambienti agentici utilizzati possono influenzare i confronti, soprattutto nelle prove che richiedono numerose interazioni con strumenti esterni.

GPU NVIDIA, AMD e Intel per l’inferenza nei data center

La versione NVFP4 di Muse Spark Open può essere eseguita su un nodo con quattro GPU NVIDIA Blackwell Ultra oppure otto NVIDIA H200.

Il supporto a TensorRT-LLM consente di distribuire l’attenzione e i 256 esperti tra gli acceleratori, mentre NVIDIA Dynamo permette di utilizzare più nodi separando le operazioni di prefill, nelle quali viene elaborato il contesto iniziale, da quelle di decoding, dedicate alla generazione dei nuovi token.

AMD ha sviluppato versioni FP8 e MXFP4 per gli acceleratori Instinct MI350X e MI355X, utilizzabili attraverso vLLM. La rappresentazione FP8 utilizza pesi e attivazioni a otto bit, mentre MXFP4 comprime i pesi attraverso un formato numerico a quattro bit con fattori di scala condivisi.

Intel ha predisposto una versione MXFP4 destinata agli acceleratori Crescent Island, con 160 GB di memoria per GPU. Quattro schede possono contenere il modello, mentre una versione INT4 permette l’inferenza offline sui processori Xeon 6.

L’ecosistema software per Muse Spark Open comprende inoltre Hugging Face Transformers, SGLang, vLLM, MLX, llama.cpp e Unsloth, con implementazioni ottimizzate per le differenti architetture hardware.

Speculative decoding per accelerare la generazione dei token

Muse Spark Open supporta lo speculative decoding, una tecnica che accelera l’inferenza facendo proporre a un modello ausiliario più token contemporaneamente, successivamente verificati dal modello principale in un unico passaggio.

Il meccanismo riduce il numero di operazioni sequenziali necessarie per produrre una risposta, aumentando il numero di token generati per unità di tempo.

Per SGLang, RadixArk ha sviluppato DFlash V2, che propone blocchi di token e seleziona quelli da verificare attraverso componenti computazionalmente leggere.

Nei test condotti su acceleratori AMD MI355X, il sistema raggiunge un throughput 3,7 volte superiore con una singola richiesta e 2,9 volte superiore con 16 richieste concorrenti, mantenendo invariata l’accuratezza. In media vengono accettati 6,4 token proposti per ogni passaggio di verifica.

vLLM utilizza invece DSpark, sviluppato da Inferact sulla base delle tecniche di decoding di NVIDIA e vLLM. Il sistema propone fino a sette token per passaggio e adatta dinamicamente la verifica al carico del server, limitando il costo computazionale quando aumentano le richieste simultanee.

Attraverso kernel personalizzati realizzati con Helion, le routine che eseguono i calcoli matematici direttamente sugli acceleratori, Meta dichiara inoltre miglioramenti compresi tra 1,03 e 3,95 volte nelle singole operazioni. L’incremento complessivo dell’inferenza su AMD MI350 è del 3%, poiché il peso delle operazioni ottimizzate varia all’interno dell’intero processo.

Per gli agenti AI, che possono richiedere numerose chiamate consecutive al modello e interazioni con strumenti esterni, la riduzione della latenza incide sulla durata complessiva delle attività e sul costo dell’inferenza.

Disponibilità attraverso API e piattaforme cloud

I pesi di Muse Spark Open sono disponibili nella raccolta ufficiale su Hugging Face, nelle versioni BF16 e NVFP4, insieme alle varianti quantizzate sviluppate dai partner.

Il modello è accessibile attraverso Amazon SageMaker AI, Google Cloud Model Garden e Microsoft Foundry Models, mentre Baseten, Fireworks AI, Groq, Modal, Nebius, OpenRouter e Together AI offrono servizi di inferenza tramite API.

Le modalità di utilizzo comprendono endpoint serverless con tariffazione basata sui token elaborati, istanze dedicate e infrastrutture private. Modal offre endpoint condivisi oppure dedicati su container isolati con scalabilità automatica, mentre Together AI mette a disposizione endpoint con un livello di servizio dichiarato del 99,9%.

La distribuzione attraverso provider differenti permette alle organizzazioni di valutare Muse Spark Open prima di investire nell’infrastruttura necessaria per eseguirlo direttamente, mantenendo la possibilità di trasferire successivamente il carico su sistemi propri.

Fine-tuning e apprendimento per rinforzo disponibili dal rilascio

Muse Spark Open può essere personalizzato attraverso fine-tuning supervisionato, adattatori LoRA e apprendimento per rinforzo, utilizzando dati e procedure di addestramento specifici delle applicazioni.

TorchTitan supporta l’addestramento distribuito, compreso il fine-tuning su conversazioni composte da più turni. Gli adattatori LoRA consentono di specializzare il modello aggiornando un insieme relativamente piccolo di parametri, riducendo le risorse necessarie rispetto all’addestramento completo.

SGLang Miles permette di applicare l’apprendimento per rinforzo anche all’intero modello, mentre NVIDIA NeMo AutoModel supporta il fine-tuning supervisionato e LoRA utilizzando direttamente i checkpoint Hugging Face.

Gli sviluppatori possono utilizzare anche Hugging Face TRL e SFTTrainer, distribuendo il modello tra più GPU attraverso PyTorch e pubblicando gli adattatori risultanti su Hugging Face.

Fireworks AI e Together AI offrono servizi gestiti per evitare la gestione diretta dell’infrastruttura di addestramento. Fireworks supporta il fine-tuning della versione NVFP4 con sequenze fino a 262.144 token, mentre Together AI permette di combinare addestramento supervisionato e reinforcement learning, distribuendo successivamente più adattatori LoRA sulla stessa istanza.

La personalizzazione attraverso LoRA consente alle imprese di sviluppare varianti specializzate per differenti applicazioni, mantenendo un modello di base condiviso e riducendo la duplicazione delle risorse necessarie all’inferenza.

La Muse Model License e le condizioni per l’utilizzo commerciale

Meta distribuisce i pesi attraverso la Muse Model License, che autorizza l’utilizzo, la modifica, la distribuzione e la creazione di modelli derivati, prevedendo condizioni specifiche per alcune attività commerciali.

I prodotti e servizi che utilizzano Muse Spark Open devono riportare un’attribuzione visibile con la dicitura “Built with Muse Spark Open”, collocata nell’interfaccia, nella documentazione, nel sito web o nelle impostazioni.

Le imprese che offrono modelli di intelligenza artificiale a terzi attraverso API o interfacce equivalenti, secondo il modello commerciale Model as a Service, devono notificare Meta e stipulare un accordo scritto separato quando i ricavi lordi aggregati dell’impresa e delle sue affiliate superano 20 milioni di dollari in un periodo di dodici mesi consecutivi. L’accordo deve precedere l’offerta di Muse Spark Open o dei suoi derivati nell’ambito di tale attività.

La limitazione riguarda l’attività Model as a Service, mentre la licenza esclude espressamente da questo requisito l’utilizzo interno, la ricerca e le altre attività commerciali, compreso l’impiego del modello per alimentare funzionalità di prodotti e servizi propri.

Meta precisa inoltre di non rivendicare diritti di proprietà sugli output generati dal modello.

La licenza comprende una Usage Policy che disciplina gli impieghi consentiti, con restrizioni relative ad attività illegali, applicazioni militari, infrastrutture critiche e utilizzi che possono provocare danni alle persone.

Le condizioni commerciali e le restrizioni d’uso differenziano Muse Spark Open dai modelli distribuiti con licenze open source permissive come Apache 2.0. La disponibilità dei pesi consente un’ampia gamma di attività di personalizzazione e distribuzione, mentre l’utilizzo commerciale rimane soggetto alle disposizioni della Muse Model License.

Sicurezza e valutazione dei rischi

Muse Spark Open è stato sottoposto a un processo aggiuntivo di safety post-training, attraverso il quale Meta ha rafforzato le protezioni del modello prima della distribuzione pubblica dei pesi.

Le verifiche comprendono la generazione di contenuti pericolosi, le azioni potenzialmente dannose eseguite dagli agenti, la gestione delle informazioni personali e i rischi associati alle capacità avanzate del modello.

Le valutazioni seguono il Meta Superintelligence Scaling Framework, il sistema adottato dall’azienda per classificare i rischi dei modelli di frontiera e definire i requisiti di sicurezza necessari per la distribuzione.

Nei test di sicurezza informatica, Muse Spark Open ha rifiutato il 99,2% dei tentativi di aggiramento delle protezioni nel benchmark interno di Meta e il 94,8% delle richieste dannose nell’aggregazione di PolyGuard, RedCode e CyberBench 2024. Negli stessi test, Kimi K3 ha registrato rispettivamente il 75,5% e il 70,2%.

Nelle valutazioni relative ai rischi chimici e biologici, il modello ha rifiutato oltre il 98% delle richieste pericolose nel benchmark BioTIER di SecureBio e oltre il 99% nel test interno dedicato alla chimica. Le prove su conversazioni articolate in più turni hanno registrato percentuali di rifiuto superiori al 97% per le richieste biologiche e al 98% per quelle chimiche.

Le valutazioni dedicate ai comportamenti autonomi hanno inoltre registrato un tasso di risposte oneste del 98,1% nel benchmark MASK e nessun comportamento scorretto nei casi esaminati dal test Agentic Misalignment.

Muse Spark Open ha soddisfatto i criteri di sicurezza previsti da Meta per la distribuzione dei pesi. Il rapporto completo sulle valutazioni sarà pubblicato successivamente.

Per le applicazioni aziendali che consentono agli agenti di intervenire direttamente su file, sistemi e servizi esterni, Meta raccomanda controlli aggiuntivi a livello applicativo, compresa la conferma umana prima di eseguire operazioni irreversibili.

Se questo articolo ti è piaciuto e vuoi rimanere sempre informato sulle novità tecnologiche

LASCIA UN COMMENTO

Inserisci il tuo commento
Inserisci il tuo nome