L’intelligenza artificiale sta diventando l’ossatura del mondo digitale. Promette produttività, creatività e un’innovazione senza precedenti. Ma ogni promessa porta con sé un rischio: mentre le organizzazioni adottano AI agent per automatizzare processi e accelerare il business, nasce una nuova generazione di minacce informatiche.
Alla Microsoft, dove l’immaginario di Star Trek è amato da molti, l’analogia con il celebre androide Data — e il suo gemello malvagio Lore — serve a descrivere la “Great AI Security Dilemma”: l’intelligenza artificiale può essere il nostro alleato più fidato o il nostro peggior incubo. La differenza la fanno le scelte di sicurezza, governance e cultura aziendale.
AI Security, capire il nuovo scenario delle minacce
Secondo IDC, entro il 2028 ci saranno oltre 1,3 miliardi di AI agent in circolazione. Questi sistemi, dinamici e autonomi, ampliano enormemente la superficie d’attacco delle organizzazioni.
Gli agent possono essere manipolati per compiere azioni non previste, come la condivisione di dati sensibili o l’esecuzione di comandi malevoli. È ciò che in Microsoft definiscono il “Confused Deputy problem”: l’agente, pur con buone intenzioni, può essere ingannato da input linguistici ambigui o malevoli.
A complicare il quadro arrivano i cosiddetti shadow agents, agenti non autorizzati o non tracciati che operano al di fuori del controllo aziendale. Come già accadde con il fenomeno Bring Your Own Device, la mancanza di visibilità porta inevitabilmente a vulnerabilità e perdita di fiducia.
L’approccio Agentic Zero Trust
Per Microsoft, la risposta passa da un nuovo paradigma: Agentic Zero Trust. Ispirato ai principi del Zero Trust classico, si fonda su due pilastri: Containment e Alignment.
Il Containment impone di confinare ogni agente all’interno di limiti ben definiti, assegnando privilegi minimi e monitorando costantemente le sue azioni. Nessun agente deve godere di accessi superiori al suo ruolo o operare senza tracciamento.
L’Alignment invece garantisce che l’agente resti fedele al proprio scopo. Si ottiene combinando modelli AI addestrati alla resistenza contro manipolazioni e un controllo puntuale sui prompt e sulle finalità operative. Ogni agente deve avere un’identità digitale chiara e un proprietario responsabile del suo comportamento.
Questa doppia regola – confinare e allineare – diventa la base del nuovo linguaggio della AI Security. Per Microsoft, è la chiave per evitare la nascita di “doppi agenti” in grado di eludere controlli e minacciare l’integrità aziendale.
Cultura prima della tecnologia: la base della AI Security
L’ AI Security non può essere affidata solo agli strumenti. La cultura aziendale è la vera difesa. Parlare apertamente dei rischi dell’AI, formare i team, coinvolgere funzioni legali e di compliance, e creare spazi sicuri di sperimentazione sono passi essenziali per costruire fiducia e responsabilità.
Le organizzazioni che prospereranno saranno quelle che vedranno l’AI come un alleato, non come un pericolo. Una collaborazione “umano più macchina” in cui la consapevolezza diventa parte della quotidianità.
Microsoft e il futuro della sicurezza degli agenti AI
Microsoft ha già introdotto strumenti specifici per sostenere questo approccio. Microsoft Entra Agent ID permette di assegnare a ogni agente un’identità univoca e tracciabile sin dalla sua creazione in Copilot Studio o Azure AI Foundry.
Parallelamente, soluzioni come Defender e Security Copilot utilizzano AI e segnali di sicurezza globali per individuare phishing e minacce che potrebbero compromettere gli agenti.
L’obiettivo è una sicurezza ambientale, sempre attiva, che combina tecnologia, governance e formazione continua. Solo così l’AI può diventare il nostro Data, non il nostro Lore: un alleato capace di rafforzare la fiducia e la resilienza del mondo digitale.
