Con Agents API, OpenAI rende disponibile agli sviluppatori come servizio gestito una parte sostanziale dell’architettura che consente a Codex e a ChatGPT Work di eseguire attività lunghe e articolate, mantenendo una sessione nel tempo mentre lavorano con file, eseguono codice, utilizzano strumenti esterni, conservano le informazioni rilevanti quando il contesto cresce e suddividono un compito fra più agenti specializzati.
Disponibile in public beta, la nuova API introduce un livello di astrazione superiore rispetto alla semplice chiamata a un modello, perché lo sviluppatore definisce attività, modello, strumenti e ambiente di esecuzione, mentre OpenAI gestisce il cosiddetto agent harness, cioè il software che coordina modello, contesto, strumenti, sessioni e subagent durante lo svolgimento del lavoro.
È lo stesso tipo di infrastruttura che OpenAI ha sviluppato e portato su larga scala con Codex e ChatGPT Work, fino a servire milioni di utenti; da questa esperienza deriva Agents API, pensata per agenti capaci di lavorare per minuti, ore o anche giorni senza richiedere agli sviluppatori di costruire autonomamente l’intero livello di orchestrazione.
Una sessione può continuare ben oltre una singola richiesta
L’architettura della Agents API ruota intorno a quattro elementi: l’agent, che comprende modello, istruzioni, strumenti e server MCP disponibili; l’environment, nel quale può accedere ai file ed eseguire comandi; la session, che mantiene nel tempo un’istanza dell’agente; events e items, che rappresentano gli input ricevuti e le attività e gli output prodotti durante la sessione.
Poiché la sessione persiste oltre la singola interazione, l’applicazione può crearla, affidarle un’attività e seguirne l’esecuzione tramite streaming o webhook, per poi inviare nuovi compiti alla stessa istanza oppure intervenire mentre l’agente è ancora al lavoro.
OpenAI gestisce sessioni, orchestrazione, compattazione del contesto e recovery; l’applicazione mantiene invece il controllo sugli strumenti disponibili e può decidere dove eseguire materialmente il lavoro. Il servizio conserva così lo stato necessario perché un agente possa proseguire un’attività, interromperla, riprenderla e coordinare più operazioni senza ricostruire ogni volta il contesto operativo.
Fra gli esempi indicati da OpenAI figurano agenti per l’incident response, bot Slack capaci di investigare richieste attraverso strumenti aziendali, analisti che interrogano data warehouse tramite SQL in sola lettura, agenti che riproducono bug segnalati su GitHub e sistemi che revisionano documenti applicando policy e coinvolgendo agenti specialistici.
Il codice può girare nelle sandbox OpenAI o su infrastrutture esterne
L’ambiente di esecuzione può essere una sandbox gestita da OpenAI, l’infrastruttura dello sviluppatore oppure un ambiente fornito da Blaxel, Cloudflare, Daytona, DigitalOcean, E2B, Modal, Oracle, Runloop o Vercel.
Le OpenAI-hosted sandbox, che utilizzano la stessa infrastruttura di sandboxing impiegata per Codex e ChatGPT, forniscono un ambiente isolato nel quale l’agente può eseguire codice e comandi, leggere e modificare file e produrre artefatti, con la possibilità di configurare file, package software, skill e plugin necessari per l’attività.
I provider supportati coprono sia configurazioni completamente gestite sia deployment all’interno di una Virtual Private Cloud (VPC), con modalità differenti per la gestione di file e secret e con configurazioni CPU, GPU e memoria adatte a esigenze diverse di prestazioni, cold start e costo.
Poiché harness ed environment rimangono separati, l’orchestrazione può continuare a essere gestita da OpenAI anche quando codice, file e strumenti vengono eseguiti sull’infrastruttura scelta dallo sviluppatore.
Il contesto viene compattato durante le sessioni lunghe
Quando un agente lavora per ore o giorni, conversazioni, risultati degli strumenti, file analizzati e decisioni precedenti si accumulano progressivamente, fino ad avvicinare la sessione ai limiti della finestra di contesto anche quando questa è molto ampia.
Per evitare che il lavoro debba essere interrotto o ricostruito da zero, Agents API utilizza il sistema di context compaction sviluppato da OpenAI, che consente alla sessione di proseguire attraverso più finestre di contesto comprimendo automaticamente le informazioni precedenti quando ci si avvicina al limite e cercando di preservare quelle necessarie per continuare il compito.
La gestione fa parte dell’harness, per cui lo sviluppatore non deve implementare separatamente una propria procedura di riassunto e ricostruzione dello stato; i meccanismi di persistenza permettono inoltre alla sessione di riprendere il lavoro dal punto in cui era stato interrotto.
Tool Search evita di caricare strumenti inutili nel prompt
Con l’aumentare del numero di strumenti disponibili cresce anche il costo di inserirne tutte le definizioni nel contesto, comprese quelle che l’agente non utilizzerà; Tool Search permette quindi di individuare e caricare le definizioni necessarie solo quando servono, riducendo la quantità di informazioni mantenute stabilmente nel contesto e preservando meglio il prompt cache.
Con il programmatic tool calling, l’agente può inoltre eseguire chiamate in parallelo, concatenare operazioni e filtrare o combinare programmaticamente i risultati prima di riportarli nel proprio contesto, così da evitare che grandi quantità di dati intermedi vengano continuamente trasferite al modello.
Agents API supporta connessioni tramite Model Context Protocol (MCP), funzioni personalizzate e strumenti integrati come la ricerca Web; l’harness può inoltre applicare skill e istruzioni pertinenti e accedere ai file e ai comandi disponibili nell’ambiente di esecuzione.
I subagent lavorano in parallelo con contesti separati
Quando un’attività può essere suddivisa in parti indipendenti, la componente multi-agent consente all’agente principale di delegarle a subagent che lavorano parallelamente e mantengono ciascuno un proprio contesto.
Poiché il materiale prodotto dalle attività parallele non deve essere conservato interamente nella stessa finestra, l’agente principale può distribuire il lavoro, attendere i risultati e ricomporli al termine, riducendo la pressione sul contesto condiviso.
Un’attività di analisi di un repository, per esempio, può essere divisa affidando a un agente l’identificazione delle modifiche visibili agli utenti e a un altro il controllo delle guide alla migrazione e degli esempi; lo stesso schema può essere applicato a ricerca, analisi dei dati, debugging e investigazione di incidenti.
I subagent ereditano gli strumenti MCP configurati, le relative credenziali e autorizzazioni, le impostazioni della ricerca Web e l’accesso ai file e agli strumenti da riga di comando dell’ambiente, anche se nella beta attuale non supportano i function tool.
L’attività rimane esposta attraverso lo stream degli eventi della sessione, permettendo all’applicazione di osservare sia la creazione dei subagent sia le operazioni di coordinamento effettuate dall’harness.
L’harness viene aggiornato insieme ai modelli
OpenAI intende mantenere e aggiornare direttamente l’harness man mano che cambiano le capacità dei modelli, così che miglioramenti nella gestione del contesto, nell’uso degli strumenti o nell’orchestrazione possano essere incorporati nel servizio senza richiedere agli sviluppatori di rielaborare continuamente il proprio runtime.
Per evitare che l’evoluzione dell’harness si traduca in cambiamenti incontrollati nelle applicazioni, il sistema offre accesso versionato alle capacità associate ai nuovi modelli, consentendo di adottare le nuove funzioni mantenendo il controllo sulla versione utilizzata.
Alla base rimane il Codex harness open source, il cui codice coordina chiamate ai modelli, strumenti e contesto; con Agents API, però, è OpenAI a occuparsi della sua esecuzione e manutenzione come servizio.
Dai primi utilizzatori arrivano dati su latenza, costi e affidabilità
OpenAI accompagna la disponibilità della beta con alcuni risultati comunicati dalle aziende che hanno provato anticipatamente Agents API. Si tratta ovviamente di dati dichiarati dalle singole aziende e non di benchmark indipendenti.
Ciridae, società statunitense che sviluppa sistemi AI destinati all’automazione di processi operativi aziendali come pianificazione, procurement, contabilità e reporting, afferma che il proprio punteggio di valutazione è passato da 0,71 a 0,85, mentre l’uso dei subagent avrebbe determinato una riduzione della latenza di quattro volte rispetto alla precedente architettura di orchestrazione.
SafetyKit, specializzata in agenti AI per trust & safety, fraud prevention, compliance e moderazione dei contenuti, dichiara invece una riduzione del 60% del costo per pratica dopo la migrazione di un workflow di revisione dei casi, insieme a una minore latenza e a una maggiore efficienza nell’uso dei token a parità di prestazioni.
Hypha, startup che utilizza l’AI per estrarre e strutturare informazioni dai documenti impiegati nell’asset management, nel private credit e nel commercial real estate, riferisce infine una riduzione dell’86% delle risposte fallite ottenuta separando l’harness agentico dalla sandbox.
Il costo resta legato all’uso di modelli, tool e sandbox
Agents API è disponibile in public beta per tutti gli sviluppatori e non prevede un costo aggiuntivo specifico per l’utilizzo dell’API, perché l’addebito deriva dai token consumati dal modello, dagli strumenti OpenAI eventualmente utilizzati e, nel caso delle sandbox gestite dalla società, dalle relative tariffe dei container.
Persistenza delle sessioni, gestione del contesto, recovery, orchestrazione degli strumenti e coordinamento dei subagent vengono quindi assorbiti dall’harness; l’ambiente di esecuzione, invece, può essere fornito da OpenAI, dallo sviluppatore o da uno dei provider supportati.
Durante la public beta, OpenAI prevede di modificare il servizio sulla base del feedback degli sviluppatori prima della general availability. L’harness sviluppato per Codex e utilizzato anche nell’infrastruttura di ChatGPT è già disponibile come servizio per applicazioni di terze parti, nelle quali il modello svolge il lavoro di inferenza e il livello agentico coordina sessioni, contesto, strumenti, ambienti di esecuzione e subagent.
