Ciao a tutti! Questo è l’episodio 34 di Le Voci dell’AI.
Oggi vi faccio vedere il progresso straordinario di una delle applicazioni più controverse dell’AI moderna, quella che è chiamata Deep Fake, e parliamo di come possa essere usata sia da criminali sia da organizzazioni di tutto rispetto per casi d’uso estremamente diversi.
Perché ne parliamo adesso? Perché per quando vedrete questo video, il Regno Unito, la nazione dove vivo, sarà in procinto di inaugurare un summit mondiale sulla sicurezza dell’intelligenza artificiale a cui parteciperanno varie potenze mondiali, inclusi gli Stati Uniti e la Cina.
Lo scopo dell’evento è quello di avanzare verso un accordo su come regolamentare lo sviluppo e l’uso dell’AI generativa a livello globale e nazionale e potenzialmente decidere la fondazione di una organizzazione mondiale che supervisioni l’applicazione delle regolamentazioni che si decideranno in futuro.
Il focus principale dell’evento sono i modelli AI di fondazione di prossima generazione sviluppati da OpenAI, Anthropic, Google, Meta e varie altre. La preoccupazione è che questi modelli diventino capaci abbastanza da sviluppare un’autonomia decisionale in grado di sfuggire al controllo umano.
Anche se il termine non viene menzionato specificamente nei documenti ufficiali, qui stiamo parlando del mitico concetto dell’Artificial General Intelligence o AGI e del fatto che le aziende tecnologiche che stanno cercando di svilupparne una potrebbero inavvertitamente causare un disastro planetario.
Non entro nel merito di questa particolare conversazione in questa sede, perché, a mio avviso, l’AI generativa rappresenta dei rischi ben più concreti e a breve termine, come l’impatto sull’occupazione a livello mondiale. Il rischio di un’AGI che sfugga al controllo umano e stermini la nostra razza è secondo me infinitamente minore di un’AI anche solo minimamente più capace di GPT-4 e in grado di causare la perdita di milioni di posti di lavoro in quasi tutte le categorie professionali.
Se avete seguito Le voci dell’AI dall’inizio dell’anno, quando abbiamo cominciato, sapete che scrivo settimanalmente una newsletter in lingua inglese chiamata Synthetic Work.
Proprio su questo argomento, l’impatto dell’AI sul lavoro e sulla carriera, la produttività della forza lavoro e le operazioni di business.
In virtù di tutto questo è incoraggiante vedere che, nonostante il focus del summit, il governo del Regno Unito ha anche pubblicato una ricerca sull’impatto dell’AI sull’economia e l’educazione.
Una delle appendici di questo documento esplora vari scenari possibili in termini di rischi e opportunità future.
Lo scenario numero due è focalizzato proprio sulla distruzione della forza lavoro ed è descritto così: entro il 2030 c’è un dispiegamento significativo dell’AI in tutta l’economia guidato da miglioramenti nelle capacità e l’opportunità di ridurre i costi.
Questo dispiegamento è più concentrato in alcuni settori, come ad esempio l’IT, la contabilità, i trasporti; è concentrato nelle aziende più grandi che hanno le risorse per implementare nuovi sistemi.
I nuovi entranti, che non hanno il problema di integrare i sistemi di AI con le infrastrutture esistenti, stanno sorpassando molte delle aziende che dominano il mercato.
Questi sistemi richiedono meno supervisione umana che in passato, il che porta a una riduzione netta dei posti di lavoro nei settori interessati.
Anche se questo potrebbe essere transitorio, è di scarso conforto per coloro che sono colpiti.
Questa transizione favorisce i lavoratori con le competenze per supervisionare ed eseguire il fine tuning dei modelli, Una nuova classe di manager di AI, aggravando la diseguaglianza l’attenzione pubblica, si concentra sugli impatti economici e sociali, principalmente sulla crescente disoccupazione e povertà piuttosto che sulle questioni relative alla sicurezza.
Vi lascio leggere il resto da soli.
Oltre a tutto questo, appena prima del summit, il Regno Unito ha anche varato una nuova legge chiamata Online Safety Act.
Questa legge si occupa di problemi molto più imminenti della futura perdita di posti di lavoro o di AGI che sfuggono al controllo umano. Tra le altre cose, questa legge indirizza in maniera specifica l’uso dell’AI per generare deep fake non consensuali a sfondo sessuale. In altre parole, nel Regno Unito è finalmente possibile punire in maniera più severa ed immediata chiunque prenda, senza permesso, l’immagine di una persona, un bambino e la fonda con un’immagine pornografica, vera o sintetica.
E qui finalmente arriviamo al punto di oggi.
Mentre giustamente la priorità è stata data a questo particolare scenario, è importante ricordare che la tecnologia Deep Fake può essere usata in maniera nefasta in molti altri scenari.
Ho parlato ampiamente di questo argomento in un tour negli Stati Uniti e qui nel Regno Unito, dove ho incontrato giornalisti e rilasciato interviste televisive.
Vi faccio vedere alcune foto del tour.
Ecco, le foto che avete appena visto sono deep fake. Non ho fatto nessun tour negli Stati Uniti. E non ho parlato con nessun giornalista televisivo.
La più avanzata tecnologia deep fake che esiste oggi mi ha permesso di rimpiazzare l’immagine del mio viso con un viso qualsiasi, a mia scelta tra quelli che compaiono nelle foto originali che ho scelto per questa dimostrazione.
La cosa più importante da capire, però la cosa che voglio assolutamente sottolineare è che la produzione di ognuna di queste immagini ha richiesto appena undici secondi su un computer ordinario, che chiunque può comprare in un negozio, e per eseguire questo processo non è stata necessaria alcuna competenza di programmazione.
Chiunque sia abbastanza determinato e in grado di leggere può fare questa cosa.
Ma facciamo un passo in più. Facciamo il passo più importante.
Che succede se mettiamo insieme l’automazione e l’AI in grado di generare deep fake? Vi faccio vedere: nell’episodio 26 di Le Voci dell’AI abbiamo visto uno strumento di automazione usato dalla comunità AI internazionale per generare immagini con il modello di AI generativa chiamato Stable Diffusion.
In quell’occasione, vi ho fatto vedere un workflow di automazione che ho sviluppato a scopo di ricerca per dimostrare come AI e automazione possono essere usati insieme per usi industriali e applicazioni commerciali.
E oggi quel workflow che ho creato è utilizzato da aziende in tutto il mondo per una miriade di task diversi.
Ora che succede se modifico quel workflow e lo rendo capace di creare deep fake? Succede che chiunque diventa in grado di produrre migliaia di immagini deep fake al giorno e disseminarle sui vari social network. È tutto con un computer da casa. Un computer più potente, con le caratteristiche giuste, può generare decine di migliaia di fake al giorno.
Il workflow che ho creato è un workflow che chiunque può creare senza alcuna competenza tecnica in particolare.
E infatti ci sono già decine di workflow per i fake che circolano online. Il rischio di abuso di queste tecnologie è enorme e non è legato solo alla pornografia.
La produzione automatica su scala industriale di queste immagini ha il potenziale di influenzare l’opinione pubblica in una manciata di minuti e causare danni enormi, come il crash del mercato azionario o la manipolazione di un’elezione.
Ecco perché il Chair della Security and Exchange Commission, Gary Gensler, ha recentemente detto in una intervista al Financial Times che di questo passo il collasso del mercato azionario a causa dell’AI generativa è quasi inevitabile e, come vi ho fatto vedere, questo potere distruttivo è oggi accessibile a chiunque.
Chiudiamo con una buona notizia. L’uso di deep fake non è esclusivamente malvagio.
Ci sono dozzine di applicazioni industriali che è importante considerare. Quella più ovvia è legata alla produzione cinematografica.
Nell’industria dell’intrattenimento le scene più complicate di un film eseguite da uno stuntman, adesso possono diventare molto più credibili, giacché è possibile rimpiazzare la faccia dello stuntman con quella dell’attore del caso, ma ci sono molte altre applicazioni nel settore dell’educazione.
Per esempio, grazie alla tecnologia deep fake, è possibile riutilizzare il viso di personaggi storici in nuove scene.
Nella vendita al dettaglio è possibile rimpiazzare il viso di una modella con il viso del cliente per aumentare l’impatto emotivo durante l’acquisto di un prodotto.
In più, la tecnologia deep fake può essere usata in maniera opposta a quella che abbiamo visto oggi e a cui pensiamo di solito. Immaginate la possibilità di rimpiazzare il viso di persone di cui si vuole garantire la privacy.
in certi scenari testimoni oculari, vittime di crimini, educatori, forze dell’ordine e così via. Tutto quello che dobbiamo fare è usare un modello diverso per generare una faccia che non esiste. Poi prendiamo una foto che vogliamo anonimizzare. In questo caso usiamo una foto della mia visita agli uffici di Engineered Arts, qui a Londra e infine operiamo un fake al contrario, rimpiazzando il mio viso e quello del mio host con il viso che non esiste, che abbiamo generato prima.
Ci fermiamo qui per questa settimana. Vi lascio pensare alle possibili applicazioni di business.
Come sempre scrivetemi i vostri commenti, le domande e i suggerimenti per gli argomenti da trattare nei prossimi episodi.
