Da OpenAI e Anthropic a Google, Meta, Thinking Machines e xAI, 1.178 persone che lavorano sui sistemi AI più avanzati chiedono a Washington di preparare un coordinamento internazionale capace di governare il ritmo dello sviluppo. Il titolo, Pacing the Frontier – “Governare il ritmo dell’AI di frontiera” – indica il punto: usando l’AI per sviluppare nuova AI, il progresso potrebbe accelerare più rapidamente della capacità di comprenderne e controllarne i risultati.
Perché bisogna poter guadagnare tempo
Alla raccolta hanno dato supporto organizzativo due nonprofit con ruoli complementari. Guidelight AI Standards, fondata dagli ex responsabili della sicurezza di OpenAI Page Hedley e Steven Adler, sviluppa standard e valuta le pratiche di sicurezza delle aziende AI di frontiera. Encode lavora invece sul terreno politico, costruendo coalizioni e promuovendo negli Stati Uniti leggi dedicate ai rischi e all’impatto dell’intelligenza artificiale.
Dai chief scientist ai responsabili della sicurezza
Le 1.178 firme arrivano tutte dall’interno delle aziende di AI di frontiera: l’adesione è riservata ai loro dipendenti e il rapporto di lavoro viene verificato.
Dario Amodei, CEO di Anthropic, firma insieme a Jared Kaplan, cofondatore e chief science officer, Jack Clark, cofondatore e responsabile Public Benefit, e Chris Olah, cofondatore e responsabile della ricerca sull’interpretabilità. Dalla stessa azienda arrivano le adesioni di Benjamin Mann, Jan Leike, Mike Krieger e Jascha Sohl-Dickstein.
Per OpenAI firmano Jakub Pachocki, chief scientist, Mark Chen, chief research officer, Wojciech Zaremba, responsabile AI Resilience della OpenAI Foundation, oltre a Boaz Barak, Joshua Achiam, Saachi Jain e Roon.
Google e Google DeepMind sono rappresentate da Jasjeet Sekhon, chief strategy officer di Google DeepMind, Anca Dragan, vicepresidente AI Safety & Alignment di Google, Mary Phuong, Gregory Wayne, Neel Nanda e Victoria Krakovna. Da Meta arrivano le firme di Shengjia Zhao, chief scientist di Meta AI, Dawn Song, vicepresidente AI Research, e Summer Yue, direttrice Alignment and Risk. Per Thinking Machines firma John Schulman, chief scientist.
L’automazione della ricerca vista dall’interno
Settantotto firmatari spiegano le ragioni della propria adesione e, in molti casi, raccontano come i modelli stiano già assumendo una parte crescente del lavoro necessario a sviluppare nuova intelligenza artificiale.
Alex Cloud, membro dello staff tecnico di Anthropic, racconta che un anno prima scriveva direttamente il codice e utilizzava Claude per ricevere suggerimenti. Ora affida al sistema istruzioni di alto livello e gli fa eseguire esperimenti per verificare le idee a una velocità che non potrebbe raggiungere da solo.
Shantanu Jain di OpenAI ricorda il passaggio avvenuto in quattro anni dai primi sistemi capaci di comprendere il linguaggio a modelli impegnati nell’ingegneria del software, nella matematica avanzata e nell’accelerazione della ricerca scientifica. Aziende e Paesi, osserva, hanno interesse a premere sull’acceleratore anche quando per la società sarebbe preferibile disporre di più tempo.
Matthew Rahtz, staff research engineer di Google, lavora da tre anni alla valutazione delle capacità dei modelli. La recente velocità dei progressi, scrive, ha sorpreso anche chi la misura professionalmente.
Stephanie Chan, staff research scientist di Google, afferma di avere aggiornato ripetutamente le proprie previsioni durante un decennio di lavoro nell’AI, continuando a sottovalutare la rapidità dei progressi. Ha firmato per ampliare le opzioni disponibili a Stati e società qualora fosse necessario rallentare.
Cybersecurity, supervisione e capacità di adattamento
Dawn Song, vicepresidente AI Research di Meta, richiama i risultati di CyberGym ed ExploitGym. Questi ambienti di valutazione mostrano agenti AI capaci di scoprire e sfruttare vulnerabilità presenti nel software reale. Senza protezioni adeguate, tali capacità potrebbero favorire attacchi informatici su larga scala.
Song considera plausibile anche un’accelerazione prodotta dall’impiego dell’AI per migliorare nuovi sistemi AI. Definisce il controllo intenzionale del ritmo una misura estrema, che potrebbe non essere mai necessaria. La possibilità di applicarla dovrebbe però essere studiata, misurata e provata prima di una crisi.
Un dipendente di Meta richiama il rischio di automatizzare attacchi contro infrastrutture pubbliche scarsamente protette, come ospedali e scuole. I modelli permetterebbero di impiegare grandi quantità di agenti operativi senza interruzione, superando il limite rappresentato dal lavoro umano necessario per condurre gli attacchi.
Jason Bohrer, ricercatore del gruppo Safety di Meta, cita i rischi informatici, chimici, biologici, radiologici e nucleari, oltre alla perdita di controllo sui sistemi. Il progresso della sicurezza dovrebbe procedere insieme a quello delle capacità attraverso un coordinamento tra laboratori di diversi Paesi.
Shengjia Zhao, chief scientist di Meta AI, scrive che i laboratori sono vicini a sistemi capaci di superare le migliori prestazioni umane in un numero crescente di misure. La società potrebbe non essere pronta per le conseguenze sociali e di sicurezza.
Zachary Kenton, responsabile dell’Amplified Oversight Team di Google, concentra invece l’attenzione sui metodi di supervisione. Il tempo ottenuto attraverso un rallentamento coordinato potrebbe essere impiegato per renderli più robusti e adeguarli alle capacità crescenti dei sistemi.
Preparare un’opzione internazionale
John Schulman, chief scientist di Thinking Machines, considera la dichiarazione uno strumento per rendere condivisa la consapevolezza della possibile necessità di nuovi meccanismi di coordinamento. Invita inoltre i laboratori a iniziare volontariamente a progettarli anche prima di un intervento del governo statunitense.
Jeff Klingner, senior software engineer di Google, collega la possibilità di coordinarsi alla conoscenza reciproca delle posizioni assunte nei diversi laboratori e tra Stati Uniti e Cina.
Saul Reynolds-Haertle di Anthropic sottolinea il carattere necessariamente globale dell’iniziativa: un rallentamento non potrebbe funzionare se venisse applicato soltanto da una parte degli sviluppatori.
Dylan Moore, impegnato nella robotica di OpenAI, sostiene la necessità di un coordinamento internazionale verificabile. Un intervento limitato ad alcuni partecipanti concederebbe un vantaggio ai Paesi o alle aziende che continuassero ad avanzare.
Jason Wolfe di OpenAI chiede maggiore trasparenza sull’addestramento, sull’impiego interno dei modelli, sulla velocità del progresso, sui rischi e sulle misure di protezione. Per affrontare la dimensione internazionale servirebbero strumenti tecnici e istituzionali capaci di rendere credibili e verificabili gli accordi.
Clare Birch di Thinking Machines concentra la propria adesione sulla possibilità di scegliere. La velocità e la diffusione delle nuove capacità dovrebbero dipendere da decisioni basate sulle evidenze, anziché essere determinate soltanto dalla pressione competitiva.
Il rischio di un freno progettato male
Danny Sawyer, senior research scientist di Google, ritiene che controllare deliberatamente il ritmo dell’AI sarà estremamente difficile e potrebbe produrre conseguenze negative se realizzato senza la necessaria attenzione. Ha firmato perché un eventuale intervento venga studiato e pianificato, invece di essere improvvisato durante una crisi.
Joshua Achiam di OpenAI non indica quale forma dovrebbero assumere gli strumenti proposti e auspica che non diventino troppo estesi o eccessivi. Considera comunque meritevole di attenzione la natura dual use di numerose capacità dell’AI di frontiera.
Luke Drago di Thinking Machines osserva che alcune proposte di rallentamento potrebbero concentrare il controllo dell’AI nelle mani di pochi soggetti. La progettazione dovrebbe quindi produrre meccanismi di coordinamento che non assegnino a un singolo attore il controllo sul futuro della tecnologia.
Brandon Houghton di OpenAI chiede che la supervisione comprenda sistemi pubblici, privati e specializzati. Regole applicate soltanto ai modelli accessibili al pubblico potrebbero trasferire le capacità più avanzate verso ambienti meno visibili e riservati a un numero ristretto di organizzazioni.
Elie Bakouch di Prime Intellect mette in guardia dall’impiego delle previsioni sull’auto-miglioramento come barriera regolatoria a vantaggio dei grandi laboratori. Chiede che i rischi vengano quantificati apertamente e non derivino soltanto dalle valutazioni delle aziende maggiori.
Austin Han, ricercatore di OpenAI, sostiene la costruzione di meccanismi per coordinarsi, collaborare e discutere il ritmo dello sviluppo quando necessario. Questi strumenti, aggiunge, non dovrebbero favorire la concentrazione del potere in nome della sicurezza.
Nicholas Joseph guida il pretraining di Anthropic, il gruppo responsabile dell’addestramento dei modelli di base di Claude. Ogni mese, riferisce, i sistemi svolgono una quota maggiore del lavoro: implementano infrastrutture, ottimizzano codice, progettano esperimenti e ne analizzano i risultati. Joseph non sa fin dove arriverà questa accelerazione. È per questa esperienza diretta che considera prudente costruire la possibilità di rallentare deliberatamente.
Pacing the Frontier porta questa esperienza individuale su un piano collettivo. L’AI potrebbe accorciare sempre di più i tempi necessari a sviluppare nuova AI; governi e laboratori devono perciò costruire in anticipo la capacità di scegliere il ritmo, prima che sia la competizione a imporlo.
