Demis Hassabis, amministratore delegato di Google DeepMind e Premio Nobel per la Chimica 2024 per il contributo allo sviluppo di AlphaFold, il sistema di intelligenza artificiale per la previsione della struttura tridimensionale delle proteine, ritiene che l’Artificial General Intelligence (AGI) sia ormai distante soltanto pochi anni.
Nell’articolato documento programmatico A Framework for Frontier AI and the Dawning of a New Age, il cofondatore di DeepMind sostiene che il mondo disponga ancora di una finestra temporale limitata per prepararsi all’arrivo dell’AGI e propone la creazione di un organismo incaricato di sviluppare standard condivisi per la valutazione dei modelli AI di frontiera prima del loro rilascio. Il documento alterna una riflessione sulle opportunità offerte dall’intelligenza artificiale generale a una proposta dettagliata di governance dei modelli di frontiera, con l’obiettivo di accompagnarne lo sviluppo attraverso procedure di valutazione comuni, standard tecnici condivisi e una collaborazione più stretta tra industria, ricerca e istituzioni.
L’AGI come nuova rivoluzione tecnologica
Per Hassabis l’AGI è un sistema in grado di esibire tutte le capacità cognitive del cervello umano e il suo arrivo è probabilmente questione di pochi anni. Guardando indietro tra qualche decennio, scrive, potremmo renderci conto di aver vissuto il periodo che ha preceduto la singolarità tecnologica, “l’alba di una nuova era per l’umanità”.
L’obiettivo della ricerca sull’AGI, spiega, ha accompagnato tutta la sua carriera. La convinzione è che, se sviluppata e distribuita responsabilmente, questa tecnologia possa diventare “una delle tecnologie più benefiche e trasformative mai inventate”.
Per descriverne la portata evita il paragone con Internet o con la rivoluzione dei dispositivi mobili. A suo giudizio l’AGI rappresenta una trasformazione di natura completamente diversa, più vicina alla scoperta dell’elettricità o del fuoco. “Se ci si ferma a pensarci, abbiamo trovato il modo di far pensare la sabbia”.
Secondo Hassabis, il suo impatto potrebbe essere dieci volte superiore a quello della Rivoluzione Industriale, sviluppandosi però a una velocità dieci volte maggiore. Tra le applicazioni cita l’accelerazione della ricerca farmaceutica, lo sviluppo di nuove fonti di energia pulita, la progettazione di materiali avanzati e, nel lungo periodo, la possibilità che la disponibilità di risorse non rappresenti più il principale limite al progresso umano, aprendo la strada a una nuova era di abbondanza.
Le sfide dei modelli di frontiera
Accanto alle opportunità offerte dall’AGI, Hassabis richiama l’attenzione sui rischi che potrebbero emergere con l’aumento delle capacità dei modelli. A suo giudizio è necessario intervenire ora, prima che l’intelligenza artificiale generale diventi realtà, così da creare le condizioni per uno sviluppo sicuro e responsabile.
Tra le criticità già evidenti cita la cybersecurity. Con il progressivo aumento delle capacità dei modelli potrebbero inoltre emergere rischi legati alla biologia, al nucleare e ad altri ambiti ad alta criticità, mentre sistemi sempre più agentici, cioè capaci di pianificare ed eseguire autonomamente sequenze di azioni e, in prospettiva, di migliorare ricorsivamente le proprie capacità, richiederanno salvaguardie in grado di mantenerne il controllo.
Hassabis si dice fiducioso nella capacità della ricerca di affrontare queste sfide, ma osserva che il settore si trova oggi al centro di una competizione commerciale, tecnologica e geopolitica che accelera il progresso dei modelli più rapidamente della comprensione delle loro capacità: “Nessuno al mondo sa con certezza che cosa accadrà da questo momento in poi, e perfino gli esperti hanno opinioni diverse”.
Quando il livello di incertezza è così elevato e le conseguenze potenziali sono così rilevanti, prosegue, la strategia più ragionevole è procedere con un cauto ottimismo accompagnando l’innovazione con adeguate misure di responsabilità e sicurezza.
Secondo Hassabis questo richiede politiche pubbliche capaci di promuovere l’innovazione, incentivare la sicurezza, favorire la collaborazione internazionale sulle questioni più critiche e incoraggiare una riflessione più ampia sulle modalità con cui l’intelligenza artificiale viene sviluppata e distribuita a beneficio della società.
Un organismo per valutare i modelli di frontiera
Per affrontare queste sfide, Hassabis propone la creazione di un Frontier AI Standards Body, un organismo incaricato di sviluppare e aggiornare gli standard per la valutazione dei modelli AI più avanzati.
Pur essendo cittadino britannico e da anni consigliere del governo del Regno Unito sulle politiche per l’intelligenza artificiale, Hassabis ritiene che siano gli Stati Uniti a trovarsi oggi nella posizione migliore per avviare questa iniziativa, grazie alla loro leadership scientifica, tecnologica ed economica.
L’organismo potrebbe assumere la forma di una partnership pubblico-privata sottoposta a supervisione federale oppure di un’organizzazione di autoregolamentazione ispirata alla Financial Industry Regulatory Authority (FINRA), l’ente che vigila sugli intermediari finanziari statunitensi.
Il consiglio direttivo dovrebbe comprendere esperti tecnici indipendenti, rappresentanti della comunità open source e altre figure provenienti dal mondo della ricerca. Il finanziamento dovrebbe essere consistente e provenire prevalentemente dall’industria, così da attrarre competenze di alto livello e garantire le risorse computazionali necessarie per effettuare test su larga scala.
Il Frontier AI Standards Body avrebbe il compito di definire i protocolli di valutazione e di collaborare con le agenzie federali competenti e con gli US National Laboratories, la rete dei laboratori nazionali di ricerca finanziati dal Dipartimento dell’Energia degli Stati Uniti, per verificare le capacità dei modelli negli ambiti rilevanti per la sicurezza nazionale.
La proposta introduce anche una definizione operativa di Frontier Model. Un modello verrebbe classificato come “Frontier-class” quando supera determinate soglie stabilite attraverso benchmark definiti dal nuovo organismo e aggiornati periodicamente per seguire l’evoluzione delle capacità dell’intelligenza artificiale.
Le organizzazioni che sviluppano questi sistemi sarebbero identificate come Frontier Labs e incoraggiate ad adottare una serie di pratiche considerate essenziali per lo sviluppo responsabile dei modelli più avanzati. Tra queste Hassabis cita la pubblicazione di model card, documenti tecnici che descrivono caratteristiche, limiti, dati utilizzati per l’addestramento, modalità d’impiego e risultati delle valutazioni del modello, insieme a solide misure di cybersecurity, procedure di verifica del personale coinvolto e risorse adeguate dedicate alla ricerca sulla sicurezza. Secondo Hassabis, questo sistema non avrebbe lo scopo di limitare l’accesso al mercato. Qualsiasi organizzazione potrebbe infatti essere riconosciuta come Frontier Lab sviluppando modelli in grado di soddisfare i criteri definiti dai benchmark.
Valutazioni prima del rilascio e benchmark in continua evoluzione
Nella fase iniziale, i Frontier Labs condividerebbero volontariamente i propri modelli con il Frontier AI Standards Body fino a 30 giorni prima del rilascio. Questo consentirebbe all’organismo di condurre una valutazione indipendente prima della distribuzione.
Se il protocollo dimostrasse di essere efficace e sufficientemente robusto, Hassabis immagina un’evoluzione del sistema: la valutazione diventerebbe un requisito per la distribuzione dei Frontier Models nel mercato statunitense. Anche dopo il rilascio, gli sviluppatori continuerebbero a collaborare con il nuovo organismo per affrontare eventuali vulnerabilità critiche emerse successivamente.
Le valutazioni dovrebbero concentrarsi sulle aree considerate più sensibili dal punto di vista della sicurezza. Tra queste Hassabis cita esplicitamente la cybersecurity, le minacce biologiche e gli altri domini ad alto rischio rilevanti per la sicurezza nazionale.
Una parte specifica delle verifiche riguarderebbe i sistemi agentici. I test dovrebbero individuare eventuali tentativi di aggirare i meccanismi di sicurezza, possibili comportamenti ingannevoli e verificare il rispetto di alcune best practice, tra cui il watermark digitale delle immagini generate dall’intelligenza artificiale e la produzione di output token leggibili dagli esseri umani (human-readable output tokens), pensati per facilitare l’analisi del processo di ragionamento seguito dal modello. I benchmark verrebbero aggiornati periodicamente, inizialmente anche ogni trimestre, eliminando quelli ormai saturi e sostituendoli con nuove prove capaci di misurare le capacità emergenti dei modelli.
In una prima fase questi benchmark potrebbero essere sviluppati insieme ai Frontier Labs. Successivamente il Frontier AI Standards Body dovrebbe acquisire la capacità di progettare test indipendenti, mantenuti riservati fino al momento della valutazione, così da ridurre il rischio che gli sviluppatori ottimizzino i propri modelli esclusivamente per superare le prove ufficiali.
La proposta prevede inoltre la collaborazione con il governo statunitense per favorire la nascita di un ecosistema di auditor indipendenti, chiamati sia a partecipare alle valutazioni sia a contribuire allo sviluppo di nuovi benchmark e nuove metodologie di test.
Uno standard tecnico con ambizioni globali
Secondo Hassabis, il principale punto di forza di questo approccio è il suo carattere tecnico. Il Frontier AI Standards Body dovrebbe essere in grado di evolvere con la stessa rapidità dei modelli AI, adattando continuamente protocolli di valutazione e benchmark ai nuovi rischi individuati.
Il framework prevede tuttavia anche la possibilità di adottare misure più incisive. Se la gravità della situazione lo rendesse necessario, il nuovo organismo potrebbe coordinare un rallentamento dello sviluppo tra i Frontier Labs, così da concedere il tempo necessario per comprendere meglio le capacità emergenti dei modelli e introdurre le misure di sicurezza ritenute indispensabili.
Lo status di Frontier Lab avrebbe anche un valore reputazionale. Potrebbe essere ottenuto da qualsiasi organizzazione in grado di sviluppare modelli che soddisfino i criteri stabiliti dai benchmark, indipendentemente dalle dimensioni dell’azienda.
La proposta dovrebbe inoltre applicarsi ai Frontier Models indipendentemente dal Paese di origine e dal fatto che vengano distribuiti con licenze open source o proprietarie. Resterebbero invece esclusi gli sviluppatori i cui modelli non raggiungono le soglie definite dal Frontier AI Standards Body, come startup, università e altri gruppi di ricerca.
Verso standard internazionali condivisi?
Pur indicando gli Stati Uniti come il punto di partenza più naturale per questa iniziativa, Hassabis chiarisce che l’obiettivo finale è costruire standard internazionali condivisi per i modelli AI di frontiera.
Poiché questa tecnologia è destinata ad avere effetti sull’intero pianeta, il framework dovrebbe favorire un consenso internazionale sul modo di affrontare i rischi più gravi, garantendo nello stesso tempo che tutti possano beneficiare delle opportunità offerte dall’intelligenza artificiale.
Anche se le sfide tecniche legate alla sicurezza dovessero essere risolte, osserva Hassabis, resterebbero aperte questioni molto più ampie. Si domanda quali modelli economici potranno permettere alle persone di prosperare in una società caratterizzata da una crescente abbondanza, quali valori guideranno questo nuovo scenario, quale significato assumeranno il lavoro e lo scopo individuale e come potrebbe cambiare la stessa condizione umana.
Per questo, conclude, tali decisioni non possono essere lasciate ai soli tecnologi. Governi, comunità scientifica, imprese e società civile dovranno contribuire a definire il prossimo capitolo dello sviluppo dell’intelligenza artificiale. “Il futuro non è ancora scritto”. Le decisioni prese oggi determineranno il modo in cui si svilupperà la prossima fase della civiltà e la possibilità di entrare in “una nuova età dell’oro della scoperta scientifica e del progresso umano”.
A differenza di molte proposte precedenti, il manifesto di Hassabis non si limita a invocare maggiore regolamentazione, ma descrive in modo dettagliato come dovrebbe funzionare un organismo di valutazione, quali test dovrebbe eseguire, come aggiornare i benchmark e quali requisiti dovrebbero soddisfare i laboratori che sviluppano i modelli di frontiera.
La proposta entra nel dibattito sulla governance dell’AI
Il manifesto ha ricevuto un’immediata attenzione internazionale, soprattutto per la proposta di istituire un organismo incaricato di valutare i modelli AI di frontiera prima della loro distribuzione.
Il Financial Times definisce il documento la proposta di governance più articolata presentata finora da Google DeepMind, mentre Axios rivela che Hassabis ne avrebbe già discusso con rappresentanti dell’amministrazione statunitense, ricercatori e governi europei, nel tentativo di costruire consenso attorno all’iniziativa. Nella stessa intervista aggiunge un elemento che non compare nel manifesto: mentre i rischi per la cybersecurity sono già evidenti, quelli legati alla biologia potrebbero emergere entro circa 18 mesi.
Anche The Verge richiama l’attenzione sulla possibilità che il Frontier AI Standards Body possa arrivare a coordinare un rallentamento dello sviluppo dei Frontier Labs, mentre Business Insider sottolinea la «finestra preziosa» che precede l’arrivo dell’AGI, durante la quale governi, imprese e comunità scientifica possono ancora definire il quadro di regole destinato ad accompagnarne lo sviluppo.
Le prime discussioni nella comunità AI riflettono lo stesso equilibrio presente nel documento. Da una parte emerge consenso sulla necessità di rafforzare le valutazioni indipendenti dei modelli più avanzati; dall’altra vengono sollevati interrogativi sul ruolo che gli Stati Uniti potrebbero assumere nella definizione di standard destinati ad avere una portata globale e sul rischio che un sistema di certificazione favorisca i laboratori già affermati.
La proposta potrebbe tuttavia aprire un auspicabile confronto con l’approccio europeo. Hassabis individua infatti negli Stati Uniti il punto di partenza per la definizione di standard destinati ad assumere una valenza internazionale, mentre l’Unione europea ha già scelto di costruire un proprio quadro regolatorio attraverso l’AI Act e le attività dell’AI Office. Resta quindi da capire in quale misura un eventuale Frontier AI Standards Body statunitense possa integrarsi con i meccanismi di valutazione e vigilanza già previsti a livello europeo.
Al di là delle reazioni delle prime ore, il documento segna soprattutto un cambio di passo nel dibattito sulla governance dell’intelligenza artificiale. Più che limitarsi a richiamare l’esigenza di sviluppare l’AGI in modo sicuro, Hassabis propone un modello operativo fondato su benchmark condivisi, valutazioni indipendenti e standard tecnici aggiornati nel tempo. La proposta arriva mentre governi e grandi laboratori AI discutono quale modello di governance adottare per i sistemi più avanzati. Resta ora da capire se il Frontier AI Standards Body riuscirà a trasformarsi da proposta di Google DeepMind a riferimento condiviso per l’intero settore.
