Snowflake amplia Cortex AI Gateway con il dynamic model routing, una funzionalità progettata per selezionare automaticamente il modello di intelligenza artificiale più adatto a ogni richiesta in base a qualità, prestazioni e costo. La società estende inoltre il supporto ai modelli open source e introduce nuovi strumenti per controllare e allocare la spesa AI all’interno delle organizzazioni.
Cortex AI Gateway sceglie il modello per ogni attività
Con il routing dinamico tra modelli, Cortex AI Gateway può decidere automaticamente quale modello utilizzare per una determinata attività, cercando il miglior equilibrio tra qualità e costo.
Il principio è evitare di utilizzare indiscriminatamente i modelli più avanzati e costosi. Le richieste meno complesse o ripetitive possono essere indirizzate verso modelli più efficienti, mentre le attività che richiedono capacità di ragionamento o elaborazione superiori possono essere affidate a modelli più sofisticati.
La funzionalità sarà integrata nei principali prodotti AI di Snowflake, compresi Snowflake CoCo e Snowflake CoWork, e potrà essere utilizzata anche dagli agenti AI di terze parti collegati attraverso Cortex AI Gateway.
L’obiettivo è ridurre la necessità per sviluppatori e amministratori di valutare manualmente quale modello utilizzare per ogni workload, soprattutto in ambienti nei quali convivono numerosi modelli proprietari e open source.
Il routing tiene conto anche di costi e vincoli aziendali
La scelta automatica non dipende esclusivamente dalle prestazioni. Il sistema può considerare qualità, velocità, costo e preferenze definite dal cliente, mantenendo allo stesso tempo il controllo sui modelli e sui fornitori che gli utenti sono autorizzati a utilizzare.
Questo aspetto assume particolare rilevanza nelle organizzazioni internazionali, dove alcuni modelli possono essere disponibili soltanto in determinate regioni, e nei settori regolamentati soggetti a specifici requisiti di conformità.
Cortex AI Gateway può inoltre modificare le proprie decisioni di routing nel tempo. Prestazioni, disponibilità e prezzi dei modelli AI cambiano rapidamente e Snowflake intende gestire queste variazioni senza costringere le aziende a modificare continuamente applicazioni e agenti.
“Raggiungere l’intelligence efficiency richiede la flessibilità di poter utilizzare il modello migliore per ogni attività man mano che il panorama evolve”, ha dichiarato Sridhar Ramaswamy, CEO di Snowflake. Secondo Ramaswamy, la piattaforma deve assorbire la complessità legata alla selezione dei modelli lasciando alle aziende la possibilità di concentrarsi sui risultati.
Fino a tre volte più efficienza nei token nei test Snowflake
Snowflake indica anche alcuni risultati ottenuti nei propri test interni utilizzando combinazioni di modelli open source e proprietari.
In una prova, agenti AI basati sul routing dinamico di Cortex AI Gateway hanno realizzato una pipeline dbt raggiungendo un’efficienza dei token fino a tre volte superiore, mantenendo una qualità analoga rispetto a un approccio basato esclusivamente sui modelli più avanzati.
In un altro test, i team di ingegneria hanno completato lo stesso numero di pull request ottenendo un’efficienza dei token superiore del 25%. Si tratta di risultati derivati da test interni Snowflake e quindi legati alle specifiche configurazioni e ai workload utilizzati.
DeepSeek e GLM ampliano i modelli disponibili
Parallelamente al dynamic model routing, Snowflake sta ampliando il catalogo di modelli accessibili attraverso Snowflake Cortex AI. La società prevede di aggiungere DeepSeek-V4-Flash 0731 e GLM-5.3, affiancandoli alle soluzioni già disponibili di altri fornitori tra cui Anthropic, OpenAI, Google, xAI, Meta e Mistral.
La strategia prevede un ambiente capace di integrare progressivamente nuovi modelli senza trattare ogni aggiornamento dell’ecosistema open source come un progetto separato. Snowflake punta così a consentire alle aziende di cambiare o aggiungere modelli mantenendo invariati i meccanismi di governance e controllo dei dati.
Il team di ricerca AI di Snowflake ha inoltre sottoposto alcuni modelli a benchmark dedicati alle attività enterprise. Nei test indicati dall’azienda, DeepSeek-V4-Flash ha ottenuto un punteggio del 74,4% nelle attività di data engineering, mentre GLM-5.2 ha raggiunto il 62,8%, utilizzando un numero di token inferiore rispetto agli altri modelli valutati.
Controllo della spesa AI per utenti, team e agenti
Il tema del costo non riguarda soltanto la scelta del modello. Con l’aumento delle applicazioni e degli agenti AI in produzione, Snowflake sta estendendo gli strumenti destinati alla gestione economica dell’infrastruttura.
Cortex AI Gateway offre agli amministratori visibilità sull’utilizzo dei token e sui relativi costi, permettendo di definire limiti di spesa per applicazioni e agenti.
Snowflake CoCo utilizza inoltre il sistema di accesso basato sui ruoli e il tagging della piattaforma per consentire agli amministratori di scegliere modelli predefiniti, attribuire il consumo a specifici team o centri di costo, stabilire quote per singolo utente e ricevere notifiche quando l’utilizzo si avvicina ai limiti impostati.
Snowflake definisce questo approccio “intelligence efficiency”, ossia la capacità di valutare quanto efficacemente risorse di calcolo, modelli, dati e contesto aziendale vengano trasformati in risultati utilizzabili.
Governance dei dati anche con più modelli
L’aumento del numero di modelli disponibili introduce anche un problema di governance. Cortex AI Gateway è stato progettato come livello centralizzato attraverso il quale gestire le connessioni tra agenti, modelli e applicazioni AI.
In questo modo le aziende possono utilizzare modelli differenti senza spostare la gestione dei dati e del contesto aziendale al di fuori dell’ambiente Snowflake. Le stesse regole di accesso e governance possono essere applicate sia ai modelli proprietari sia alle alternative open source.
La combinazione tra routing dinamico, maggiore scelta dei modelli e controllo centralizzato dei consumi consente quindi di assegnare i workload ai diversi modelli mantenendo sotto controllo utilizzo delle risorse, costi e criteri di accesso.
