Con Decisions API, OpenAI introduce un modello di inferenza specializzato nelle valutazioni che determinano il comportamento delle applicazioni e degli agenti AI. Anziché generare risposte in linguaggio naturale, il servizio utilizza GPT-6 Luna per calcolare probabilità, classificare informazioni e attribuire punteggi, restituendo risultati strutturati che il software può impiegare direttamente nei propri processi decisionali. La nuova API, disponibile dopo una fase di beta pubblica, promette prestazioni fino a dieci volte superiori rispetto alle Responses API nelle attività supportate, con tariffe a partire da 0,10 dollari per milione di token di input. Il suo impiego riguarda soprattutto i sistemi agentici, nei quali la scelta dell’azione successiva richiede valutazioni ripetute, rapide e sufficientemente economiche da poter essere eseguite su larga scala.
Rispetto alle tradizionali Responses API, OpenAI dichiara una velocità fino a dieci volte superiore per le attività supportate. Il servizio è stato progettato per situazioni in cui un sistema deve scegliere tra alternative definite, classificare un contenuto, valutare una condizione o attribuire un punteggio, senza generare ogni volta una risposta articolata in linguaggio naturale.
Il passaggio dall’elaborazione di una richiesta alla selezione di un’azione rappresenta una componente importante delle architetture agentiche. Un agente che gestisce un processo aziendale deve continuamente stabilire se le informazioni disponibili sono sufficienti, quale strumento utilizzare, se ripetere un’operazione oppure richiedere l’intervento di una persona. Singolarmente, queste valutazioni possono apparire semplici, ma quando vengono ripetute migliaia di volte introducono latenze e costi significativi.
Come funziona Decisions API: tre tipi di risposta
Decisions API utilizza un’interfaccia basata su tre elementi: il modello, i dati di input e un insieme di domande alle quali il sistema deve rispondere. Gli sviluppatori possono definire le condizioni da verificare o le alternative disponibili attraverso tre modalità di valutazione: Predicate, Choice e Score. Gli sviluppatori definiscono preventivamente le condizioni da verificare o le alternative disponibili, mentre GPT-6 Luna esamina il contesto e restituisce risultati strutturati attraverso tre modalità.
Predicate permette di stimare la probabilità che una determinata condizione sia vera, attraverso un valore compreso tra zero e uno. Un’applicazione di controllo qualità, per esempio, può analizzare la fotografia di un prodotto e valutare la probabilità che presenti un danno visibile. Analogamente, un sistema di assistenza può stabilire quanto sia probabile che un messaggio contenga una richiesta di cancellazione.
Choice seleziona una risposta tra un insieme di opzioni prestabilite. È particolarmente utile nell’orchestrazione degli agenti AI, quando occorre decidere se proseguire un processo, ripetere un’operazione o chiedere ulteriori informazioni. Oltre alla scelta, la risposta comprende le probabilità associate alle alternative e un indicatore di confidenza.
Score assegna invece una valutazione rispetto a una scala ordinata definita dallo sviluppatore. Può essere utilizzato per classificare la gravità di un problema tecnico, la priorità di un ticket o l’entità di un danno. Il valore restituito corrisponde alla media ponderata degli indici dei livelli, calcolata utilizzando le rispettive probabilità.
La distinzione è importante perché Decisions API non produce necessariamente una decisione aziendale completa. Fornisce valutazioni circoscritte, che un’applicazione può utilizzare per scegliere il passaggio successivo secondo le proprie regole operative.
Un sistema può, per esempio, richiedere la verifica umana quando la confidenza è insufficiente oppure autorizzare automaticamente un’attività quando il risultato supera una soglia prestabilita.
Fino a 400 valutazioni in una singola richiesta
Una delle novità introdotte rispetto alla beta pubblica riguarda la possibilità di sottoporre fino a 400 domande in una singola richiesta, contro le precedenti 200.
Le domande possono condividere lo stesso contesto, evitando di trasmettere ripetutamente le informazioni necessarie alla valutazione.
Un’applicazione che riceve un documento commerciale potrebbe così verificarne la categoria, individuare eventuali anomalie, valutarne la completezza e determinare il reparto al quale assegnarlo, utilizzando la stessa richiesta.
Le valutazioni devono tuttavia essere indipendenti. Quando una domanda dipende dal risultato di un’altra, occorre effettuare richieste successive.
La versione generalmente disponibile introduce inoltre il supporto nativo agli input JSON, immagini inserite nelle istruzioni delle singole domande e riferimenti a immagini disponibili attraverso URL HTTP o HTTPS.
È possibile includere anche la cronologia di una conversazione, comprese le chiamate agli strumenti e i relativi risultati. Questa funzionalità consente di valutare lo stato di un workflow agentico considerando le operazioni già eseguite, anziché limitarsi all’ultimo messaggio.
Il servizio utilizza l’endpoint dedicato POST /v1/decisions e supporta attualmente il modello gpt-6-luna.
Decisioni in tempo reale per gli agenti vocali con GPT-Live
Tra le integrazioni introdotte da OpenAI figura quella con GPT-Live, che permette di utilizzare Decisions API durante conversazioni vocali in tempo reale.
Un agente di assistenza può determinare, mentre l’utente sta parlando, se formulare una domanda di chiarimento, indirizzare la richiesta a un altro servizio o trasferire la conversazione a un operatore.
L’integrazione supporta anche l’attivazione di valutazioni in corrispondenza degli aggiornamenti delle trascrizioni vocali, attraverso i trigger delle sessioni GPT-Live. I risultati vengono restituiti mediante eventi che l’applicazione può interpretare ed eseguire.
Un esempio riguarda gli avatar conversazionali, che possono modificare le espressioni del volto in relazione al contenuto emotivo o semantico del dialogo, scegliendo tra un insieme di reazioni predefinite.
La possibilità di associare valutazioni strutturate al flusso della conversazione riduce il tempo necessario a decidere come reagire, un parametro particolarmente importante nei sistemi interattivi.
I risultati di Box, Datadog, Ramp, Sierra e Speak
OpenAI accompagna la disponibilità generale della nuova API con alcuni risultati ottenuti da aziende che hanno sperimentato il servizio.
Box utilizza Decisions API insieme a Box Extract per classificare documenti aziendali e indirizzarli verso le successive fasi di elaborazione. Su un campione di 30 certificati assicurativi, l’azienda ha rilevato una selezione del percorso di elaborazione circa cinque volte più rapida rispetto alle Responses API, mantenendo la stessa accuratezza.
Datadog impiega la tecnologia per valutare il rischio dei comandi shell generati dagli agenti prima della loro esecuzione, nell’ambito delle procedure automatizzate di risoluzione dei problemi. L’azienda riferisce una latenza al 95° percentile, o p95, 40 volte inferiore rispetto ai modelli frontier utilizzati nel confronto, con accuratezza comparabile.
Ramp, che utilizza il servizio per attribuire i costi dell’intelligenza artificiale alle attività effettivamente eseguite, dichiara valutazioni quattro volte più rapide e una riduzione dei costi del 30% rispetto all’utilizzo diretto di GPT-6 Luna.
Nel customer service, Sierra ha integrato Decisions API nelle attività di orchestrazione delle conversazioni. Le valutazioni vengono completate con una latenza p95 inferiore a 280 millisecondi, circa tre volte più rapidamente rispetto alla soluzione precedente, con un costo per chiamata inferiore del 90% e senza peggioramenti rilevati nei risultati delle interazioni con i clienti.
Speak, piattaforma dedicata all’apprendimento delle lingue, ha invece misurato una riduzione superiore al 90% del tempo necessario a selezionare l’azione successiva durante una conversazione vocale: da 1,4 secondi a 130 millisecondi.
Questi risultati provengono dalle valutazioni delle singole aziende, effettuate su workload e configurazioni differenti. Non costituiscono quindi un benchmark uniforme attraverso il quale confrontare direttamente le prestazioni dei diversi sistemi.
Quanto costa Decisions API e quali garanzie offre sui dati
Il prezzo di base della Decisions API è di 0,10 dollari per milione di token di input non memorizzati nella cache, mentre la lettura degli input dalla cache costa 0,01 dollari per milione di token. Le scritture nella cache seguono un listino distinto, con opzioni di conservazione di 30 minuti e 12 ore.
Una caratteristica economica significativa è l’assenza di costi per i token di output: il servizio fattura gli input, mentre le risposte strutturate non comportano una tariffazione aggiuntiva per i token generati.
La valutazione del costo complessivo richiede comunque di considerare eventuali maggiorazioni per l’elaborazione regionale, la lunghezza del contesto e le operazioni di scrittura nella cache.
Dal punto di vista della gestione dei dati, Decisions API supporta l’elaborazione regionale negli Stati Uniti e nello Spazio economico europeo, oltre che in Svizzera, e prevede la disponibilità di Zero Data Retention per i clienti che soddisfano i relativi requisiti.
Per le imprese europee, la possibilità di elaborare gli input in una regione definita costituisce un elemento da considerare nell’integrazione con applicazioni che trattano informazioni aziendali riservate o dati personali, fermo restando che la conformità dipende anche dall’architettura complessiva del servizio e dalle condizioni contrattuali applicabili.
Dalla generazione di risposte alla decision intelligence
La proposta di OpenAI si inserisce nell’evoluzione della decision intelligence, un ambito dell’intelligenza artificiale nel quale analisi dei dati, modelli probabilistici, regole e sistemi di automazione vengono utilizzati per selezionare o raccomandare azioni.
Su questo terreno operano già piattaforme con approcci tecnologici differenti.
Workday Decision Intelligence, per esempio, collega le decisioni relative alla gestione del personale con i risultati finanziari, consentendo alle aziende di confrontare scenari alternativi di assunzione, riqualificazione e organizzazione del lavoro.
Celonis combina invece Process Intelligence e Decision Intelligence all’interno del proprio Context Model, una rappresentazione digitale dei processi aziendali che permette agli agenti AI di interpretare lo stato delle operazioni e intervenire considerando le dipendenze tra attività e sistemi informativi.
Un altro approccio è quello di Incorta Intelligence, che unisce analisi dei dati, applicazioni AI e automazione dei workflow in un ambiente governato, consentendo agli utenti di passare dall’individuazione di un problema all’esecuzione di un’azione.
Nel settore finanziario, Provenir integra modelli predittivi, gestione del rischio, simulazione delle strategie e agenti AI per automatizzare e ottimizzare le decisioni relative al credito e alle frodi.
Anche Aera Technology sviluppa una piattaforma di decision intelligence orientata all’automazione delle scelte nei processi aziendali e nelle supply chain, attraverso l’integrazione di dati, modelli e agenti.
Rispetto a queste soluzioni, Decisions API interviene a un livello architetturale differente. Le piattaforme di decision intelligence comprendono generalmente funzioni di integrazione dei dati, modellazione dei processi, ottimizzazione, governance ed esecuzione delle decisioni. OpenAI propone invece un componente utilizzabile dagli sviluppatori per effettuare singole valutazioni probabilistiche o classificazioni all’interno di applicazioni e workflow già esistenti.
Questa differenza consente anche di immaginare un utilizzo complementare: una piattaforma di automazione potrebbe impiegare Decisions API per verificare condizioni, selezionare percorsi operativi o stabilire quando richiedere una revisione umana, lasciando agli altri componenti la gestione delle regole, delle autorizzazioni e delle operazioni sui sistemi aziendali.
Come sviluppare e verificare le decisioni AI
Gli sviluppatori possono sperimentare Decisions API attraverso il Decisions Playground, utilizzando testi e immagini per definire le domande, le alternative e i criteri di valutazione prima dell’integrazione nel software.
La costruzione di un sistema affidabile richiede una particolare attenzione alle soglie decisionali. Una probabilità restituita dal modello non equivale automaticamente alla certezza che una classificazione sia corretta, né garantisce che il valore sia perfettamente calibrato rispetto alla frequenza effettiva degli eventi.
OpenAI raccomanda di valutare le risposte su esempi rappresentativi delle condizioni operative reali e di stabilire le soglie considerando il costo dei falsi positivi e dei falsi negativi.
Il criterio assume particolare importanza nei processi nei quali una classificazione errata può determinare conseguenze economiche o operative. Un sistema che assegna priorità ai ticket tecnici, per esempio, deve distinguere tra il rischio di intervenire inutilmente su un problema secondario e quello di sottovalutare un malfunzionamento critico.
Con Decisions API, OpenAI rende disponibile un servizio specializzato per una categoria di operazioni che ricorre continuamente nei sistemi software e negli agenti autonomi: trasformare rapidamente informazioni eterogenee in valutazioni strutturate, lasciando all’applicazione il compito di stabilire come utilizzarle.
