Home Prodotti Sicurezza Deepfake: cosa sono, come funzionano e come ci si deve comportare

Deepfake: cosa sono, come funzionano e come ci si deve comportare

I deepfake sono audio e video verosimili, realizzati con intelligenza artificiale (traggono il proprio nome da deep learning) per trarre in inganno chi li ascolta o li guarda. Sono altamente convincenti, dato che riportano parole effettivamente pronunciate da una persona, ma non nel contesto proposto nel video o nell’audio.

In genere riguardano personaggi noti, ma possono essere utilizzati anche su nostri frammenti video o audio per la creazione di messaggi vocali fasulli.

Al momento è ancora tutto sommato facile individuare la maggior parte dei deepfake, ma il deep learning, che è una pratica tecnologica incrementale, sta progredendo rapidamente e affinando la propria capacità di convincimento.

Oltretutto i deepfake elementari sono già alla portata della gente comune, che senza il bisogno di investimenti o di particolari conoscenze tecnologiche possono creare deepfake basiilari.

Una lista pubblica di tool per creare deepfake rende l’idea dell’accessibilità della tecnologia.

Come spiega in una nota Gastone Nencini, Country Manager di Trend Micro Italia, per generare un video deepfake la tecnologia impara a codificare e decodificare due volti separatamente, ad esempio quello di una persona famosa che parla e quello di un’altra persona che dice qualcosa di completamente diverso e magari controverso.

La tecnologia impara come abbattere e ricostruire il primo volto e fonderlo con il secondo. In questo modo le espressioni facciali della persona originale sembrano imitare quelle della seconda persona.

La stessa tecnologia può essere usata per sovrapporre ancora un altro volto sulla persona che viene presa di mira per il deepfake.

Trucchi etici e no

La tecnologia, osserva comunque Nencini, può essere utilizzata in maniera positiva, come nel settore della produzione cinematografica, in cui la ripresa di una scena può essere evitata grazie alla tecnologia deepfake.

Un altro modo esemplare di creare un deepfake, (eticamente, in modo dichiarato, a scopo di intrattenimento e con un alto contributo artigianale) è quello adottato dall’artista Fabio Celenza, che nella trasmissione televisiva Propaganda Live propone video satirici in cui attribuisce ai personaggi parole che non hanno detto.

Ma la stessa tecnica è utilizzata in modo negativo per creare contenuti per adulti che sfruttano i volti di celebrità senza il loro consenso.

Considerando questi utilizzi sono alte le preoccupazioni che questa tecnologia possa essere utilizzata regolarmente per orientare le elezioni, influenzare i mercati finanziari, rovinare la reputazione di persone e in genere per attività criminose.

Facebook, YouTube e Twitter hanno cercato di vietare la distribuzione di questi contenuti. Una possibile soluzione potrebbe essere di richiedere che i video siano filigranati e firmati digitalmente, cosa che potrebbe aiutare a convalidare il produttore del contenuto.

Vigilare, vigilare, vigilare

La speranza, quindi, è di arrivare a un modo tecnicamente accurato di segnalare i deepfake prima che vengano pubblicati.

Ma fino a quando soluzioni attendibili non saranno attuabili l’unica risorsa è vigilare.

Nencini spiega che quando si visualizza un contenuto di questo tipo, si può adottare uno schema di risposta che basato su tre punti: fermarsi, farsi una domanda e segnalare

Fermarsi significa on condividere o commentare i video se sembrano in qualche modo sospetti. Bisogna poi chiedersi da dove proviene il video, se la persona è veramente il personaggio che appare nel video, perché la persona o l’azienda lo condivide online. Infine serve segnalare al sito o all’app su cui è stato visualizzato il contenuto, se lo si ritiene sospetto.

Internet è uno spazio comune e non lo si governa da soli: serve il contributo di tutti.

1 COMMENTO

  1. Secondo me, bisogna vietare qualunque forma di deepfake, anche quelli dichiarati. Si sa che una prima, anche apparentemente innocua, concessione preclude inevitabilmente ad una escalation di accettazione da cui poi non si riesce a tornare indietro…e il danno dilaga e peggiora. In questo caso, gli effetti sono devastanti

LASCIA UN COMMENTO

Inserisci il tuo commento
Inserisci il tuo nome

Se questo articolo ti è piaciuto e vuoi rimanere sempre informato sulle novità tecnologiche

css.php