AMD acquisirà Taalas: chip costruiti intorno ai modelli per accelerare l’inferenza AI

AMD ha raggiunto un accordo definitivo per acquisire Taalas, startup canadese che sviluppa chip specializzati nell’esecuzione dei modelli di intelligenza artificiale. La tecnologia entrerà nella roadmap degli acceleratori AMD Instinct e servirà a costruire sistemi nei quali GPU e silicio dedicato possano affrontare parti diverse dei carichi di inferenza.

L’operazione è soggetta alle consuete condizioni di chiusura e alle autorizzazioni regolamentari. I termini economici non sono stati comunicati. AMD intende conservare e ampliare il gruppo di ricerca e sviluppo di Taalas in Canada.

Il modello diventa il computer

Fondata nel 2023 e con sede a Toronto, Taalas segue un approccio più radicale rispetto ai tradizionali acceleratori programmabili. La società trasforma la struttura e i parametri di un modello AI in silicio progettato specificamente per quel modello, creando quelli che definisce “Hardcore Models”.

Una GPU può eseguire modelli e applicazioni differenti, ma questa flessibilità richiede memoria esterna, sistemi di interconnessione ad alta velocità e continui trasferimenti di dati. Durante l’inferenza, i parametri del modello devono essere letti ripetutamente: il movimento dei dati tra memoria e unità di calcolo può quindi diventare un limite tanto importante quanto la potenza computazionale.

La memoria DRAM offre una densità elevata e costi relativamente bassi, ma si trova normalmente all’esterno del processore. La memoria integrabile nei processi produttivi dei chip logici è molto più veloce, ma anche meno densa e più costosa. Le architetture AI contemporanee compensano questa separazione attraverso memorie HBM, packaging avanzato, collegamenti ad ampia banda e sistemi di raffreddamento più complessi.

Taalas elimina il confine tra archiviazione e calcolo, portando sullo stesso chip i dati necessari al modello e i circuiti che li elaborano. La specializzazione consente inoltre di rimuovere i componenti programmabili che non servono al carico prescelto.

Il risultato è un sistema che non richiede memorie HBM, packaging 3D, collegamenti I/O ad alta velocità o raffreddamento a liquido, con una conseguente semplificazione dell’infrastruttura e una riduzione dei costi complessivi.

Dal modello al chip in due mesi

Il silicio specializzato deve conciliare la personalizzazione dell’hardware con la velocità alla quale vengono sviluppati nuovi modelli. Taalas affronta il problema preparando in anticipo gran parte del processore e intervenendo soltanto sugli strati metallici finali, nei quali vengono codificati il modello e i relativi parametri.

La piattaforma può così trasformare un modello precedentemente non supportato in hardware in circa due mesi, senza ripetere l’intero ciclo di progettazione del processore. Taalas applica quindi al silicio un processo più vicino alla rapidità di aggiornamento del software.

La specializzazione privilegia i modelli eseguiti con volumi elevati, per i quali la riduzione della latenza, dei consumi e del costo per richiesta può compensare la minore flessibilità rispetto a GPU e acceleratori programmabili.

HC1 esegue Llama 3.1 8B a 17.000 token al secondo

Il primo prodotto della società, chiamato HC1, incorpora una versione quantizzata di Llama 3.1 8B. Taalas ha scelto questo modello per le dimensioni contenute e per la disponibilità dei parametri con licenza aperta, due condizioni che hanno semplificato la realizzazione del primo chip.

HC1 raggiunge 17.000 token al secondo per utente, quasi dieci volte la velocità delle piattaforme prese come riferimento. Taalas indica inoltre un costo di costruzione venti volte inferiore e un consumo energetico ridotto di dieci volte.

Il confronto combina la misurazione delle GPU Nvidia effettuata da Taalas con i risultati pubblicati da Artificial Analysis per gli acceleratori di Groq, SambaNova e Cerebras. Il parametro scelto è la velocità per singolo utente, particolarmente rilevante nelle applicazioni interattive sensibili alla latenza.

Taalas punta in particolare alle applicazioni agentiche, nelle quali un sistema deve concatenare numerose operazioni e utilizzare più volte il modello prima di completare un’attività. In questi scenari, ogni ritardo si accumula lungo l’intero flusso di lavoro e rende decisive le risposte nell’ordine dei millisecondi.

Un modello specializzato che conserva margini di personalizzazione

L’espressione “modello cablato nel silicio” non significa che ogni aspetto del suo funzionamento sia fissato definitivamente. L’implementazione di Llama 3.1 8B su HC1 conserva una finestra di contesto configurabile e supporta gli adattatori LoRA, che permettono di specializzare il modello senza modificarne tutti i parametri.

Taalas HC1

Taalas ha reso il prodotto accessibile attraverso un chatbot e un’API di inferenza compatibile con il formato OpenAI. Gli sviluppatori possono quindi inviare richieste utilizzando interfacce simili a quelle già adottate per altri servizi basati sui modelli linguistici.

La prima generazione usa un formato numerico proprietario a 3 bit, affiancato da parametri a 6 bit. La quantizzazione riduce la quantità di memoria e accelera i calcoli, introducendo una perdita di qualità rispetto alle versioni eseguite sulle GPU.

La seconda generazione HC2 adotta formati floating point standard a 4 bit, aumenta la densità del chip e riduce il compromesso qualitativo. La roadmap di Taalas comprende anche un modello di ragionamento di medie dimensioni su HC1 e un modello di frontiera realizzato con HC2.

Taalas affiancherà le GPU Instinct

AMD integrerà la tecnologia di Taalas nella roadmap dei propri acceleratori e svilupperà soluzioni di sistema che la combinano con le GPU Instinct, affiancando la flessibilità delle GPU all’efficienza del silicio specializzato nell’inferenza.

“Abbiamo fondato Taalas per ripensare l’inferenza AI dalle fondamenta, costruendo l’hardware intorno al modello”, ha spiegato Ljubisa Bajic, cofondatore e CEO della startup. L’ingresso in AMD offrirà al gruppo canadese capacità produttiva, risorse ingegneristiche e accesso a clienti globali difficili da raggiungere per una piccola azienda di semiconduttori.

Taalas aveva raccolto complessivamente 219 milioni di dollari, inclusi 169 milioni in un finanziamento concluso nel febbraio 2026. Tra gli investitori figurano Quiet Capital, Fidelity e Pierre Lamond, veterano del venture capital nel settore dei semiconduttori.

La società ha realizzato il primo prodotto con un gruppo di 24 persone e circa 30 milioni di dollari di spesa, nonostante il capitale raccolto superasse già i 200 milioni. L’acquisizione riguarda quindi tanto la proprietà intellettuale quanto un gruppo di progettisti con una lunga esperienza nei semiconduttori.

Un altro tassello della piattaforma AI completa di AMD

L’acquisizione si inserisce nella strategia con cui AMD sta estendendo la propria offerta oltre il singolo processore. La piattaforma comprende già GPU Instinct, CPU EPYC, software ROCm, tecnologie di rete e progettazione di sistemi rack-scale.

L’acquisto di ZT Systems ha aggiunto competenze nella realizzazione di infrastrutture complete, mentre Silo AI ha rafforzato lo sviluppo software e l’ottimizzazione dei modelli. Il progetto AMD Helios combina GPU Instinct MI455X, CPU EPYC e networking in un’architettura rack-scale, con i primi sistemi dei partner previsti nella seconda metà del 2026.

Taalas aggiunge a questa piattaforma una forma di elaborazione ancora più specializzata. AMD potrà combinare la programmabilità delle GPU con chip ottimizzati per modelli o flussi di inferenza specifici, scegliendo il motore di calcolo in funzione del carico.

La tecnologia si rivolge soprattutto ad applicazioni AI in tempo reale come assistenti vocali, agenti, traduzione, generazione di contenuti e robotica, nelle quali la latenza deve avvicinarsi ai millisecondi e ogni riduzione del consumo viene moltiplicata per milioni di richieste. La capacità di trasformare un modello in silicio in due mesi permette a questa specializzazione di seguire cicli di sviluppo molto più rapidi rispetto a quelli tradizionali dei semiconduttori.

Se questo articolo ti è piaciuto e vuoi rimanere sempre informato sulle novità tecnologiche

LASCIA UN COMMENTO

Inserisci il tuo commento
Inserisci il tuo nome