Secondo quanto riportato da Reuters, la Commissione europea sta preparando una proposta che potrebbe vietare agli under 15 l’accesso autonomo a social network, piattaforme video, giochi online e chatbot basati sull’intelligenza artificiale. Le misure dovrebbero confluire nel futuro EU Kids Act, un nuovo quadro normativo dedicato alla protezione dei minori nei servizi digitali.
La proposta non è ancora legge e dovrà essere negoziata con Parlamento europeo e Stati membri, ma il perimetro indicato dalla bozza segna un possibile cambio di passo nella regolamentazione europea. Per la prima volta, infatti, i chatbot AI generalisti vengono esplicitamente considerati insieme a social media, videogiochi e piattaforme video nell’ambito delle misure destinate a limitare i rischi digitali per i minori.
Accesso differenziato in base all’età
Il modello previsto dalla Commissione introdurrebbe un sistema graduato per fascia anagrafica. A partire dai 15 anni sarebbe possibile creare autonomamente un account sui servizi interessati.
Per i ragazzi tra 13 e 14 anni, invece, l’accesso dovrebbe essere subordinato al controllo o all’autorizzazione dei genitori. Per i bambini più piccoli sarebbero previsti soltanto servizi espressamente progettati per i minori, con funzionalità e contenuti adeguati all’età.
L’obiettivo è superare l’attuale modello basato principalmente sull’autodichiarazione dell’età, introducendo meccanismi più affidabili per determinare se un utente possa accedere liberamente a una determinata piattaforma.
Verifica dell’età obbligatoria per social e piattaforme video
Uno dei punti più rilevanti riguarda l’introduzione di sistemi obbligatori di verifica o assicurazione dell’età al momento della registrazione, almeno per social network e piattaforme video.
È un passaggio tecnicamente delicato. Le piattaforme dovrebbero essere in grado di determinare in modo sufficientemente affidabile la fascia d’età dell’utente senza trasformare ogni accesso in una procedura invasiva di identificazione.
Il tema riguarda direttamente la gestione dei dati personali. Un sistema di age assurance efficace deve infatti evitare che la protezione dei minori produca un aumento sproporzionato della raccolta di documenti, informazioni biometriche o altri dati sensibili.
Per i grandi operatori digitali questo potrebbe tradursi nello sviluppo di nuove infrastrutture di verifica dell’età, oppure nell’integrazione di servizi esterni specializzati.
Nel mirino anche le funzionalità considerate addictive
La bozza non interviene soltanto sull’età minima di accesso. Le aziende dovrebbero anche eliminare o limitare caratteristiche di design considerate capaci di favorire un utilizzo compulsivo dei servizi.
Il riferimento riguarda quei meccanismi progettati per aumentare il tempo trascorso sulle piattaforme, come notifiche continue, riproduzione automatica, sistemi di ricompensa, streak e altre forme di persuasive design.
L’approccio si inserisce in una linea regolatoria europea già emersa con il Digital Services Act, che attribuisce particolare attenzione ai rischi sistemici legati alla protezione dei minori e al funzionamento dei sistemi di raccomandazione.
Le piattaforme dovrebbero inoltre mettere a disposizione strumenti semplici per segnalare contenuti dannosi e offrire sistemi di parental control più efficaci.
Perché i chatbot AI cambiano il quadro normativo
La parte più significativa della proposta riguarda però l’intelligenza artificiale conversazionale.
Un social network distribuisce prevalentemente contenuti creati da altri utenti o selezionati attraverso algoritmi di raccomandazione. Un chatbot AI, al contrario, genera risposte direttamente sulla base delle richieste dell’utente e può sostenere interazioni continuative, personalizzate e potenzialmente molto persuasive.
Questo introduce una categoria di rischio diversa. Il problema non riguarda soltanto l’accesso a contenuti inadatti, ma anche il modo in cui un sistema AI può rispondere a un minore, accompagnarlo in una conversazione o influenzarne il comportamento.
L’eventuale inclusione dei chatbot nel Kids Act segnala quindi che Bruxelles considera l’AI conversazionale come una categoria autonoma di servizio digitale da sottoporre a specifiche tutele per i minori.
Cosa cambia per OpenAI, Google, Microsoft e Meta
Per i principali operatori dell’AI consumer, le conseguenze potrebbero essere rilevanti.
Aziende come OpenAI, Google, Microsoft e Meta potrebbero dover integrare nei propri prodotti sistemi di age assurance, parental control e policy specifiche per gli utenti minorenni.
La verifica dell’età potrebbe inoltre diventare soltanto il primo livello di controllo. I sistemi potrebbero dover determinare anche quali funzionalità rendere disponibili in funzione dell’età dell’utente.
Un chatbot potrebbe, per esempio, applicare restrizioni differenti alle capacità conversazionali, ai contenuti generabili, alla memoria delle interazioni o all’accesso ad alcune funzioni avanzate.
In prospettiva, questo significa che l’architettura dei servizi AI potrebbe dover incorporare un vero e proprio profilo di autorizzazione basato sull’età, in modo non molto diverso dai sistemi di access control già utilizzati nelle applicazioni aziendali.
Aumentano i costi di compliance
Il nuovo quadro potrebbe incidere anche sui costi operativi delle piattaforme.
Verifica dell’età, moderazione dedicata, parental control, gestione delle segnalazioni e adattamento dei sistemi AI richiederebbero investimenti tecnologici e organizzativi aggiuntivi.
La bozza prevede inoltre un contributo di supervisione a carico delle piattaforme, destinato a finanziare le attività regolatorie.
Per gli operatori più grandi l’impatto potrebbe essere sostenibile, ma per servizi AI più piccoli o startup consumer l’introduzione di requisiti complessi di verifica e controllo potrebbe rappresentare una barriera aggiuntiva all’ingresso nel mercato europeo.
Dal controllo dei contenuti al controllo delle capacità
Il punto più interessante dal punto di vista tecnologico è il possibile passaggio da una regolamentazione concentrata sui contenuti a una regolamentazione delle capacità disponibili all’utente.
Nel caso dei chatbot AI non si tratta infatti soltanto di stabilire quali contenuti possano essere mostrati a un minore. È possibile che i sistemi debbano modificare anche il proprio comportamento in funzione dell’età.
Questo potrebbe riguardare la profondità delle conversazioni, il tipo di informazioni fornite, l’utilizzo della memoria, l’accesso a strumenti esterni o la possibilità di compiere determinate azioni attraverso agenti AI.
Un approccio di questo tipo avrebbe conseguenze dirette sulla progettazione dei modelli consumer e sulle relative infrastrutture di sicurezza.
Il Kids Act è ancora una proposta
È importante distinguere il contenuto della bozza dal quadro normativo effettivamente in vigore.
La proposta dovrà essere formalizzata dalla Commissione europea e successivamente negoziata con Parlamento europeo e Consiglio. Durante l’iter legislativo soglie di età, obblighi tecnici e modalità di applicazione potrebbero quindi cambiare.
Il segnale politico, tuttavia, è già rilevante: nella strategia europea per la protezione dei minori, social network, piattaforme video, videogiochi e chatbot AI stanno entrando nello stesso perimetro regolatorio.
Per il settore dell’intelligenza artificiale è un passaggio significativo, perché indica che la regolamentazione dei sistemi generativi potrebbe estendersi sempre più dal funzionamento dei modelli alle modalità concrete con cui vengono utilizzati da differenti categorie di utenti.
