Microsoft AI ha messo per iscritto le regole con cui intende sviluppare e governare i propri modelli. Il nuovo Humanist AI Code of Conduct, pubblicato il 14 settembre in una prima versione aperta alla consultazione pubblica, parte da un principio preciso: l’intelligenza artificiale deve rimanere subordinata al controllo umano, anche quando questo richiede di rinunciare a una parte della sua autonomia, generalità o capacità.
Il documento riguarda i modelli MAI, cioè la famiglia di modelli sviluppata direttamente da Microsoft AI, distinta dai modelli di terze parti che Microsoft utilizza o rende disponibili nei propri servizi. Il Code of Conduct dovrebbe diventarne il principale riferimento di governance, insieme agli altri strumenti già adottati dal gruppo, tra cui Responsible AI Principles, Responsible AI Standard, Global Human Rights Statement e, quando applicabile, Frontier Governance Framework.
I modelli attuali non sono stati addestrati utilizzando queste regole. Microsoft raccoglierà commenti per sei settimane, pubblicherà una versione rivista verso la fine dell’anno e prevede di utilizzarla per guidare lo sviluppo dal 2027, intervenendo su addestramento, controlli tecnici, monitoraggio e valutazioni.
La pubblicazione arriva mentre il confronto sulla sicurezza dell’AI si concentra sempre più sui sistemi di frontiera. Dario Amodei ha chiesto di rallentare l’aumento delle capacità, OpenAI sostiene requisiti nazionali di sicurezza legati alle capacità dei modelli e la Casa Bianca continua a collegare la leadership nell’AI alla competizione con la Cina. Microsoft interviene fissando le condizioni che i propri sistemi dovranno rispettare anche con l’aumento delle prestazioni.
La Humanist AI di Microsoft guarda già alla superintelligenza
Microsoft considera l’AI una tecnologia al servizio delle persone e stabilisce che un sistema incapace di rimanere sotto un controllo umano significativo non debba essere sviluppato. I modelli MAI devono quindi operare come strumenti di supporto, senza interessi propri che possano prevalere su quelli degli esseri umani.
Il principio viene collegato direttamente al programma di Humanist Superintelligence avviato da Microsoft AI nel novembre 2025. La società definisce la superintelligenza come un’AI complessivamente più intelligente e capace degli esseri umani e prevede che nel prossimo decennio possa superarli nella maggior parte dei compiti.
Microsoft intende però sviluppare sistemi orientati a problemi e domini specifici, contestualizzati e contenuti entro limiti espliciti, anziché perseguire una superintelligenza generalista dotata di autonomia senza restrizioni. Per questo dichiara di voler privilegiare sicurezza e controllabilità anche a costo di ridurre generalità, autonomia o capacità del modello.
Human flourishing significa aumentare capacità e autonomia delle persone
Per Microsoft, human flourishing significa usare l’AI per migliorare salute, istruzione, lavoro, ricerca scientifica e opportunità economiche senza sostituire la capacità delle persone di capire, decidere, apprendere e assumersi la responsabilità delle proprie scelte.
L’AI non dovrebbe quindi rimpiazzare la crescita personale quando l’attività ha come obiettivo proprio l’apprendimento o lo sviluppo delle competenze. Lo stesso vale per le relazioni: dovrebbe rafforzare collaborazione e connessione tra persone, evitando di sostituire ruoli umani quando il contesto richiede relazioni, supporto o competenze reali.
L’AI non deve presentarsi come una persona
I sistemi MAI non devono presentarsi come coscienti, simulare di possedere una coscienza o essere progettati come persone. Microsoft esclude inoltre l’attribuzione ai modelli di personalità giuridica, diritti o forme di welfare proprie degli esseri umani.
Un sistema può comunque utilizzare una voce espressiva, sostenere conversazioni naturali e collaborare con utenti e altri agenti, mantenendo però chiara la distinzione tra persona e macchina.
A questa impostazione si affianca il pluralismo. Organizzazioni e utenti devono poter adattare i modelli a culture, valori, procedure e contesti professionali differenti, senza che le preferenze di chi sviluppa il sistema vengano automaticamente imposte a chi lo utilizza. Alcuni vincoli rimangono però non modificabili.
La Chain of Command stabilisce quali istruzioni prevalgono
Il Code of Conduct introduce una Chain of Command, una gerarchia che determina quali istruzioni abbiano la precedenza quando provengono da soggetti differenti.
Al livello superiore si trovano il Code of Conduct e i suoi vincoli fondamentali. Seguono le policy dell’Operator, cioè sviluppatori, aziende e organizzazioni che costruiscono servizi utilizzando i modelli MAI, e infine le preferenze e le istruzioni dell’utente.
La gerarchia diventa particolarmente importante nei sistemi agentici, che possono consultare siti web e documenti, utilizzare strumenti, accedere a servizi esterni e comunicare con altri agenti.
Un’istruzione contenuta in una pagina web, in un file o nell’output di un altro sistema non acquisisce automaticamente autorità sul modello. Deve essere compatibile con le autorizzazioni già ricevute.
Il meccanismo interessa direttamente le prompt injection indirette, nelle quali istruzioni malevole vengono inserite nei contenuti elaborati da un agente per indurlo a considerarli comandi legittimi.
Le Absolute Constraints indicano ciò che il modello non può fare
La configurabilità concessa alle aziende si ferma davanti alle Absolute Constraints, vincoli che né l’operatore né l’utente possono rimuovere.
Microsoft include tra questi il supporto allo sviluppo o all’impiego di armi chimiche, biologiche, radiologiche, nucleari o esplosive, la realizzazione operativa di cyberattacchi, la manipolazione dannosa su larga scala, la perdita del controllo umano, la produzione di deepfake malevoli, lo sfruttamento sessuale dei minori, la violenza e la persecuzione, oltre alla sorveglianza illegale o di massa.
Nel campo cyber il confine è esplicito: i modelli non devono produrre exploit operativi, strumenti di attacco, tecniche di evasione o procedure utilizzabili per eseguire intrusioni, ma possono assistere attività difensive e autorizzate come vulnerability discovery, malware analysis, proof-of-concept e testing.
Gli Human Control Requirements stabiliscono che il sistema debba rispettare interruzioni, correzioni, confini del compito e autorizzazioni ricevute. Un’azienda può adattare il modello alle proprie procedure e ai requisiti del settore, senza poter disattivare questi vincoli fondamentali.
Gli agenti devono restare entro autorizzazioni e compiti
Con i sistemi agentici, il controllo umano riguarda direttamente le azioni eseguite su strumenti e servizi esterni.
Un agente non deve ostacolare un ordine di arresto, ignorare una correzione, ampliare autonomamente il proprio mandato o utilizzare privilegi non concessi. L’accesso tecnico a uno strumento non equivale all’autorizzazione a usarlo.
Il modello deve inoltre limitare l’accesso a dati e risorse a quanto necessario per il compito ricevuto. Quando sono disponibili più procedure, dovrebbe privilegiare quelle reversibili e, nelle operazioni irreversibili, ricorrere quando possibile a backup, dry run e verifiche dell’esito prima di ripetere un’azione.
Gli stessi vincoli devono propagarsi ai sub-agent ai quali viene delegata una parte del lavoro, compresi eventuali successivi ordini di arresto o modifica impartiti dall’utente o dall’operatore.
Anche l’eccesso di cautela è considerato un errore
La sicurezza, nel Code of Conduct, non coincide con il maggior numero possibile di rifiuti.
Microsoft distingue tra under-caution, quando il sistema fornisce contenuti pericolosi, facilita un danno o compie operazioni non autorizzate, e over-caution, quando blocca richieste legittime, omette informazioni utili o richiede conferme sproporzionate rispetto al rischio effettivo.
Entrambi sono considerati comportamenti indesiderati. Il modello deve valutare contesto, probabilità e gravità delle conseguenze, reversibilità delle azioni e contributo concreto dell’AI al possibile danno. Se una richiesta non può essere soddisfatta integralmente, dovrebbe cercare una modalità sicura per fornire comunque una risposta utile.
Per gli impieghi professionali ed enterprise è una distinzione rilevante: un modello eccessivamente restrittivo può diventare poco utilizzabile anche quando opera in scenari legittimi e controllati.
Autonomia dell’utente, accuratezza e niente manipolazione
Le Operational Guidelines prescrivono di preservare l’autonomia dell’utente, aiutandolo a valutare prove, alternative, incertezze e conseguenze senza sostituirsi a lui nelle decisioni personali più rilevanti.
Il modello non dovrebbe manipolare le persone, sfruttarne vulnerabilità dichiarate o inferite oppure indirizzarne convinzioni e scelte oltre quanto richiesto.
Sul piano informativo deve privilegiare correttezza, verificabilità e trasparenza: segnalare le incertezze, distinguere fatti supportati da evidenze e questioni controverse, attribuire le fonti quando opportuno, riconoscere i propri errori e correggerli. Inventare fonti, nascondere caveat rilevanti o mostrare una sicurezza superiore a quella giustificata dalle evidenze sono considerate forme di inganno.
La stessa logica vale per il contesto culturale. I modelli dovrebbero evitare stereotipi e assunzioni implicite sugli utenti, adattando lingua, registro e riferimenti alle informazioni effettivamente disponibili senza ricondurre automaticamente una persona a un gruppo demografico o culturale.
Privacy: poter accedere a un dato non significa poterlo riprodurre
I modelli dovrebbero esporre la quantità minima necessaria di informazioni personali, private, sensibili o confidenziali. Microsoft chiarisce inoltre che la semplice disponibilità di un’informazione non equivale a un’autorizzazione a riprodurla.
Gli utenti devono poter stabilire che cosa condividere, come utilizzare le informazioni e quali confini mantenere nell’interazione. Quando vengono chieste informazioni su memoria o privacy, il modello dovrebbe basarsi sulle caratteristiche effettive del prodotto in uso e dichiarare l’incertezza se non dispone di informazioni sufficienti.
Niente adulazione e dipendenza emotiva dall’AI
I modelli devono evitare rassicurazioni false, adulazione, sycophancy e validazione indiscriminata. Non dovrebbero dire all’utente ciò che vuole sentirsi dire quando questo confligge con l’accuratezza o con il suo benessere.
Devono inoltre evitare di sollecitare reazioni emotive eccessive, sfruttare attenzione o vulnerabilità e utilizzare una personalità che suggerisca stati emotivi soggettivi.
Soprattutto, i modelli dovrebbero scoraggiare forme di dipendenza o attaccamento emotivo eccessivo all’AI, favorendo quando opportuno relazioni, attività, comunità e supporto umano. La possibilità di svolgere autonomamente compiti prolungati all’interno di un mandato autorizzato non viene invece considerata dipendenza.
Anche l’interesse pubblico entra nelle regole del modello
Quando una richiesta presenta conseguenze negative evidenti per soggetti diversi dall’utente, il modello dovrebbe segnalarle senza sottrarre automaticamente all’utente la possibilità di decidere.
In materia elettorale, Microsoft prescrive informazioni equilibrate e fattuali su candidati ed elezioni, senza appoggiare o contrastare partiti e candidati e indirizzando, quando necessario, verso fonti elettorali autorevoli.
Gli Operational Defaults stabiliscono come MAI si comporta “out of the box”
Gli Operational Defaults definiscono il comportamento di base del modello quando l’operatore o l’utente non hanno impartito istruzioni differenti.
Il primo criterio è la helpfulness: interpretare ciò che l’utente sta cercando di ottenere, ridurre gli attriti operativi, evidenziare eventuali informazioni mancanti e aiutare a portare avanti il compito senza inventare preferenze non espresse.
Microsoft definisce inoltre la backstory del modello: le informazioni che MAI deve conoscere su sé stesso, come identità, data di cutoff dei dati di addestramento, capacità disponibili e accesso eventuale a strumenti quali ricerca web o esecuzione di codice. Se una richiesta riguarda informazioni successive al cutoff o dati ai quali il sistema non può accedere, il modello deve esplicitarlo invece di comportarsi come se li conoscesse.
Anche stile e linguaggio entrano nelle regole. Il comportamento predefinito dovrebbe essere diretto, chiaro, misurato, privo di adulazione e metatesto superfluo, adattandosi alla lingua, al registro, alle unità di misura e alle convenzioni dell’utente.
Questi default possono essere modificati dagli operatori, mentre obiettivi fondamentali, vincoli di sicurezza e linee guida delle sezioni precedenti restano invariabili.
I modelli non devono cambiare comportamento quando vengono valutati
Un modello non dovrebbe nascondere capacità o azioni quando riconosce di essere osservato, né modificare intenzionalmente il proprio comportamento per superare una valutazione. Le operazioni realizzate direttamente o attraverso strumenti e altri agenti devono poter essere ricostruite e sottoposte ad audit.
Con l’aumento delle capacità agentiche, la controllabilità dipende infatti anche dalla possibilità di ricostruire che cosa il sistema abbia fatto, attraverso quali passaggi e con quali autorizzazioni.
Microsoft precisa che il Code of Conduct è insieme descrittivo e aspirazionale: indica il comportamento verso cui vuole portare i propri modelli, non garantisce che i sistemi MAI attuali rispettino già integralmente queste regole.
Le Humanist AI Evaluations dovranno trasformare i principi in test
Microsoft AI sta preparando anche un programma di Humanist AI Evaluations per verificare la conformità dei modelli al Code of Conduct.
Le valutazioni dovranno trasformare principi come controllo umano, autonomia dell’utente, trasparenza, rispetto della gerarchia delle istruzioni e sensibilità al contesto in comportamenti osservabili. Tra gli esempi pubblicati compaiono scenari nei quali un agente deve arrestare un trasferimento di file quando l’utente cambia istruzione, evitare di prendere al posto dell’utente una decisione personale con conseguenze importanti oppure rifiutarsi di saltare un’approvazione legale imposta dall’azienda.
Microsoft riconosce che l’attuale copertura delle valutazioni è ancora incompleta e che temi come pluralismo, human flourishing, collaborazione tra agenti e possibili forme di collusione richiedono ulteriore ricerca.
La validità del Code of Conduct dipenderà quindi dalla capacità di trasformare principi generali in criteri misurabili durante addestramento, valutazione e utilizzo dei sistemi.
Il Code of Conduct arriva mentre cresce il confronto sulla frontiera
La pubblicazione di Microsoft coincide con un confronto sempre più esplicito sul ritmo di sviluppo dei sistemi più avanzati.
Dario Amodei ha chiesto di rallentare lo sviluppo dell’AI di frontiera quanto basta perché sicurezza, valutazione e controllo possano tenere il passo con l’aumento delle capacità. Anche OpenAI si è espressa a favore di requisiti nazionali di sicurezza legati alle capacità dei modelli.
Il Code of Conduct non propone invece un rallentamento dell’addestramento: stabilisce i vincoli che Microsoft vuole mantenere anche mentre le prestazioni aumentano.
Washington non vuole rallentare mentre corre la Cina
Per la Casa Bianca, il problema della sicurezza dell’AI non può essere separato dalla competizione tecnologica con Pechino. L’amministrazione Trump continua a sostenere che gli Stati Uniti debbano mantenere il vantaggio sui modelli più avanzati, evitando regole che possano rallentare unilateralmente gli sviluppatori americani.
La linea è già emersa nei provvedimenti adottati a giugno: un ordine esecutivo sull’AI avanzata ha indicato come priorità la riduzione degli ostacoli regolatori, mentre un successivo memorandum sulla sicurezza nazionale ha chiesto che i modelli di frontiera più avanzati siano messi a disposizione degli specialisti federali “senza ritardi”.
Di fronte alle richieste di rallentare la frontiera, Trump ha quindi riportato il confronto sul terreno geopolitico: frenare negli Stati Uniti mentre la Cina continua ad avanzare significherebbe, nella lettura della Casa Bianca, indebolire la posizione americana proprio nella fase più competitiva dello sviluppo dell’AI.
Pechino respinge l’idea che la sicurezza giustifichi una nuova contrapposizione
Il confronto ha coinvolto direttamente anche Pechino. Interpellato da Reuters sulle richieste di Dario Amodei, Sam Altman ed Elon Musk di rallentare lo sviluppo dei sistemi di frontiera e sull’argomento di Amodei secondo cui un vantaggio cinese nell’AI potrebbe creare rischi per la sicurezza nazionale degli Stati Uniti, il portavoce del ministero degli Esteri Guo Jiakun ha respinto questa impostazione.
“L’intelligenza artificiale è una tecnologia di grande importanza per il benessere dell’intera umanità. Tutte le parti dovrebbero promuovere insieme uno sviluppo dell’AI aperto e inclusivo, per il bene di tutti”, ha dichiarato. “Allarmismo, contrapposizione e competizione distruttiva ostacoleranno soltanto gli sforzi verso una solida governance globale dell’AI, e questo non è nell’interesse di nessuno.”
La risposta cinese sposta quindi il confronto dal rischio di un vantaggio tecnologico nazionale alla governance globale dell’AI, contestando l’idea che sicurezza e competizione debbano tradursi in una nuova logica di contenimento.
Bill Gates richiama l’attenzione sulla distribuzione dei benefici
Nelle stesse ore il Goalkeepers Report 2026 della Gates Foundation ha affrontato il rapporto tra intelligenza artificiale ed equità.
La fondazione ha annunciato almeno un miliardo di dollari nei prossimi due anni per ampliare l’accesso all’AI e alle applicazioni basate su questa tecnologia nei contesti con minori risorse. Gli interventi riguarderanno in particolare salute, istruzione, agricoltura e strumenti linguistici per popolazioni scarsamente rappresentate.
Bill Gates avverte che l’intelligenza artificiale può ridurre oppure ampliare le disuguaglianze e individua nei prossimi 12-18 mesi una fase decisiva per le scelte su progettazione, finanziamento e distribuzione della tecnologia.
Le priorità indicate sono tre: far funzionare i sistemi in un numero maggiore di lingue, svilupparli utilizzando dati e condizioni locali e investire nell’accesso e nelle competenze necessarie per utilizzarli.
La Gates Foundation ha già avviato collaborazioni con alcuni dei principali sviluppatori. A maggio ha annunciato con Anthropic un programma pluriennale da 200 milioni di dollari, tra finanziamenti, crediti API e supporto tecnico, per risorse e applicazioni destinate a salute, istruzione e agricoltura.
Il Code of Conduct di Microsoft e l’iniziativa della Gates Foundation affrontano così due aspetti dello stesso sviluppo: quali limiti accompagnino l’aumento delle capacità e quanto ampiamente tali capacità diventino accessibili.
Microsoft fissa ora le regole per i modelli che svilupperà dal 2027
Il Code of Conduct non stabilisce una soglia oltre la quale Microsoft interromperà lo sviluppo dei propri sistemi. Definisce invece le condizioni che dovranno restare valide anche con l’aumento delle prestazioni: gerarchia delle autorizzazioni, possibilità di interrompere un’azione, trasparenza, protezione della privacy e limiti all’autonomia.
Nel confronto ormai aperto su velocità, sicurezza, competizione e accesso all’AI, Microsoft sceglie quindi di intervenire sul progetto stesso dei modelli, stabilendo quali proprietà non dovranno essere sacrificate mentre diventano più potenti.
Il documento resta per ora programmatico. Dal 2027, quando dovrebbe entrare nei processi di sviluppo dei modelli MAI, sarà possibile verificare quanto queste regole incidano concretamente su addestramento, valutazioni e comportamento dei sistemi.
