Anthropic e Accenture avviano una sperimentazione su un modello di controllo dell’intelligenza artificiale ancora poco esplorato: valutatori indipendenti inseriti stabilmente all’interno dell’azienda che sviluppa i modelli.
La collaborazione prevede la costituzione di un team di embedded evaluators, guidato da Faculty, la società britannica specializzata nell’intelligenza artificiale acquisita da Accenture. Il gruppo lavorerà accanto ai team di Anthropic e agli altri partner impegnati sulla sicurezza per valutare e sottoporre a red teaming i modelli, condurre assessment sull’allineamento e verificare l’efficacia delle misure di protezione.
Anthropic e Accenture prevedono inoltre di investire almeno un miliardo di dollari ciascuna nei prossimi cinque anni per sviluppare capacità legate alla sicurezza dell’AI. L’investimento ha quindi un perimetro più ampio rispetto al solo progetto di embedded evaluation.
Dal test del modello alla verifica del processo che lo produce
La differenza rispetto alle valutazioni esterne già utilizzate dai principali laboratori AI riguarda soprattutto quando e dove avviene il controllo.
Un valutatore esterno interviene normalmente su un modello o su un sistema già sufficientemente maturo, analizzandone capacità, comportamenti e vulnerabilità. Gli embedded evaluators dovrebbero invece seguire lo sviluppo mentre è ancora in corso, osservando i modelli durante il training e le decisioni che ne determinano costruzione e successivo deployment.
Anthropic prevede per questi soggetti un accesso comparabile a quello di un dipendente, sufficiente a osservare i processi rilevanti, dialogare direttamente con il personale e verificare come vengono applicate le procedure di sicurezza.
Da questa posizione, secondo Anthropic, potranno valutare il funzionamento complessivo dell’organizzazione, verificare il rispetto degli impegni assunti sulla sicurezza, individuare eventuali punti ciechi e riferire sugli incidenti, offrendo all’esterno maggiori elementi per comprendere benefici e rischi dei sistemi sviluppati.
Il perimetro diventerebbe quindi più ampio rispetto al semplice benchmark di un modello: la valutazione potrebbe riguardare anche il processo che conduce al suo sviluppo e al deployment.
L’embedded evaluation non bloccherà il rilascio dei modelli
La presenza di valutatori esterni all’interno del laboratorio non introdurrà una procedura di certificazione preventiva.
Anthropic precisa che continuerà ad addestrare e rilasciare frontier models mentre gli embedded evaluators lavoreranno parallelamente ai suoi team. Il loro ruolo non consisterà quindi nell’autorizzare o impedire un rilascio, ma nell’osservare il processo con continuità e fornire una verifica indipendente delle pratiche adottate.
Anche la responsabilità resterà chiaramente attribuita allo sviluppatore. Anthropic sottolinea che la presenza di soggetti indipendenti non ridurrà la propria accountability: la sicurezza dei modelli rimarrà responsabilità della società.
La distinzione è importante perché evita di attribuire ai valutatori una funzione assimilabile a quella di un’autorità di certificazione. L’embedded evaluation, almeno nella forma proposta da Anthropic e Accenture, aggiungerà un livello di osservazione esterna senza trasferire il potere decisionale sullo sviluppo o sul rilascio dei modelli.
Un impegno previsto dal piano di Dario Amodei
L’accordo dà applicazione concreta a uno dei punti contenuti nel recente saggio di Dario Amodei, We Must Pace the Frontier, nel quale il CEO di Anthropic ha proposto di rallentare il ritmo di avanzamento delle capacità dei modelli abbastanza da consentire alle tecniche di sicurezza, alignment e interpretabilità di tenere il passo.
Uno degli strumenti indicati da Amodei è proprio la presenza di embedded evaluators indipendenti nei laboratori di frontiera, coinvolti con continuità nelle attività di verifica delle pratiche di sicurezza.
Il principio sposta il baricentro rispetto a un sistema nel quale gran parte delle informazioni sulla sicurezza viene ancora prodotta e pubblicata dalle stesse società che sviluppano i modelli. Un soggetto esterno presente durante il processo potrebbe osservare elementi che una valutazione effettuata soltanto a valle del ciclo di sviluppo rischierebbe di non intercettare.
Faculty arriva con esperienza nella valutazione dei frontier model
La scelta di Faculty non parte da zero. Fondata nel Regno Unito nel 2014 e acquisita da Accenture nel 2026, la società lavora da anni sulla sicurezza e sulla valutazione dei sistemi di intelligenza artificiale.
Faculty ha già collaborato con Anthropic e OpenAI nella valutazione della sicurezza dei modelli e con l’UK AI Security Institute per assessment di sicurezza su modelli general purpose. Le sue attività comprendono inoltre sistemi sviluppati per pubblica amministrazione, difesa, sanità e infrastrutture.
Questa esperienza combina quindi due elementi rilevanti per l’embedded evaluation: la capacità tecnica di analizzare modelli avanzati e la conoscenza di contesti nei quali quei sistemi vengono successivamente utilizzati.
“Faculty è nata dalla convinzione che l’AI debba essere sicura per progettazione, non sicura per caso”, ha spiegato Marc Warner, CTO di Accenture e CEO di Faculty. “Lavorare con Anthropic come embedded evaluator è esattamente il tipo di attività per cui Faculty è stata costruita”.
Anche Julie Sweet, chair e CEO di Accenture, collega il progetto alla necessità di combinare valutazione tecnica e conoscenza delle applicazioni: “La sicurezza richiede sia una profonda competenza tecnica sia una chiara comprensione di come l’AI viene utilizzata nel mondo reale”.
La collaborazione tra Anthropic e Accenture è già più ampia
Il progetto si inserisce in una relazione che va oltre la sicurezza dei modelli.
Nel dicembre 2025 le due società hanno costituito l’Accenture Anthropic Business Group, con circa 30.000 professionisti Accenture destinati alla formazione sulle tecnologie Anthropic e attività congiunte rivolte soprattutto alla diffusione dell’AI nelle grandi organizzazioni e nei settori regolamentati.
L’embedded evaluation introdurrà però una dinamica diversa rispetto alla collaborazione commerciale. Accenture sarà contemporaneamente partner di Anthropic nell’adozione enterprise di Claude e, attraverso Faculty, soggetto chiamato a valutarne in modo indipendente modelli e procedure di sicurezza.
È proprio questa sovrapposizione a rendere centrale il tema del modello economico con cui verranno finanziati i valutatori.
Chi paga il valutatore indipendente
In questa prima fase sarà Anthropic a finanziare direttamente il lavoro di Accenture.
La stessa Anthropic riconosce che non esiste ancora un sistema consolidato per finanziare una valutazione indipendente e indica come prospettiva di lungo periodo fondi comuni tra più soggetti o finanziamenti pubblici, una proposta già contenuta nell’Advanced AI Framework pubblicato a giugno.
Il problema non riguarda soltanto il finanziamento. Anthropic sottolinea che mancano ancora standard condivisi su quali informazioni debbano essere messe a disposizione degli embedded evaluators e su come questi debbano riferire ciò che scoprono.
Il modello dovrà quindi risolvere una tensione strutturale: per effettuare una verifica significativa il valutatore dovrà disporre di informazioni sufficienti, mantenendo al tempo stesso autonomia dal soggetto che finanzia il lavoro.
Un ecosistema con più valutatori
Anthropic non intende affidarsi a un unico soggetto. La partnership con Accenture è non esclusiva e la società prevede che i laboratori di frontiera possano lavorare contemporaneamente con diverse organizzazioni di valutazione.
Sono già in corso discussioni con METR e altri valutatori non profit per sperimentare alcuni elementi dell’embedded evaluation attraverso modelli di finanziamento differenti. Anthropic prevede inoltre di annunciare altri valutatori nelle prossime settimane, mentre Accenture potrà svolgere attività analoghe per altri sviluppatori di AI.
L’obiettivo prospettato è la costruzione di un ecosistema di valutatori indipendenti che operino secondo standard condivisi, anziché la creazione di un rapporto esclusivo tra un laboratorio e un singolo auditor.
La struttura definitiva resta però da costruire: non esistono ancora standard comuni sulle informazioni da condividere, procedure uniformi di reporting o un sistema stabile di finanziamento.
La sperimentazione avviata da Anthropic e Accenture punta quindi a spostare la valutazione indipendente in una fase diversa del ciclo di vita dell’intelligenza artificiale: dal test esterno di un modello già sviluppato all’osservazione continuativa del modo in cui viene addestrato, valutato e preparato per il deployment.
L’efficacia del modello dipenderà dalla capacità di definire standard comuni e di rendere verificabile anche l’indipendenza di chi effettua la verifica.
