McAfee ha annunciato al CES 2024 la sua tecnologia di rilevamento audio deepfake alimentata dall’intelligenza artificiale, nota come Project Mockingbird.
Questa nuova tecnologia proprietaria è stata sviluppata per aiutare a difendere i consumatori dalla crescente minaccia di criminali informatici che utilizzano audio generati dall’intelligenza artificiale per realizzare truffe che derubano le persone di denaro e informazioni personali, consentono il cyberbullismo e manipolano l’immagine pubblica di personaggi importanti.
Strumenti di IA generativa sempre più sofisticati e accessibili hanno reso più facile per i criminali informatici creare truffe altamente convincenti, come l’uso della clonazione vocale per impersonare un familiare in difficoltà, chiedendo denaro. Altri, spesso chiamati “cheapfakes”, possono comportare la manipolazione di video autentici, come telegiornali o interviste a celebrità, inserendo un audio falso per cambiare le parole che escono dalla bocca di qualcuno; in questo modo si fa credere che una figura fidata o conosciuta abbia detto qualcosa di diverso da ciò che era stato detto in origine.
Anticipando la sfida sempre più grande che i consumatori devono affrontare per distinguere i contenuti reali da quelli manipolati digitalmente, McAfee Labs, il ramo di McAfee dedicato all’innovazione e all’intelligence sulle minacce, ha sviluppato un modello avanzato di intelligenza artificiale leader nel settore, addestrato a rilevare l’audio generato dall’intelligenza artificiale. La tecnologia Project Mockingbird di McAfee utilizza una combinazione di modelli di rilevamento contestuali, comportamentali e categorici per identificare se l’audio di un video è probabilmente generato dall’intelligenza artificiale. Con un tasso di accuratezza del 90%, McAfee è in grado di rilevare e proteggere dai contenuti AI creati per “cheapfakes” o “deepfakes” malevoli.
“Con le più recenti capacità di rilevamento dell’intelligenza artificiale di McAfee, forniremo ai clienti uno strumento che opera con un’accuratezza superiore al 90% per aiutare le persone a comprendere il loro mondo digitale e a valutare la probabilità che i contenuti siano diversi da come sembrano”, ha dichiarato Steve Grobman, Chief Technology Officer di McAfee. “Così, come le previsioni del tempo che indicano il 70% di probabilità di pioggia aiutano a pianificare la giornata, la nostra tecnologia fornisce le conoscenze necessarie per prendere decisioni ponderate sul fatto che i contenuti siano ciò che sembrano”.
“I casi d’uso di questa tecnologia di rilevamento dell’intelligenza artificiale sono molto vasti e si riveleranno preziosi per i consumatori in un contesto di aumento delle truffe e della disinformazione generate dall’intelligenza artificiale. Con le capacità di McAfee di rilevare i deepfake audio, metteremo il potere di sapere cosa è vero o falso direttamente nelle mani dei consumatori. Aiuteremo i consumatori a evitare le truffe “cheapfake”, in cui una celebrità clonata reclama un nuovo omaggio a tempo limitato, e faremo in modo che i consumatori sappiano immediatamente, quando guardano un video su un candidato presidenziale, se è reale o generato dall’AI per scopi malevoli. Questo porta la protezione nell’era dell’IA a un livello completamente nuovo. Il nostro obiettivo è fornire agli utenti la chiarezza e la fiducia necessarie per navigare tra le sfumature del nostro nuovo mondo guidato dall’IA, per proteggere la loro privacy e identità online e il loro benessere”, ha continuato Grobman.
Le prime dimostrazioni pubbliche di Project Mockingbird, la tecnologia Deepfake Audio Detection di McAfee, saranno disponibili in loco al Consumer Electronics Show 2024. La presentazione di questa nuova tecnologia AI è anche un’ulteriore prova dell’attenzione di McAfee per lo sviluppo di un portafoglio completo di modelli AI che siano trasversali alle piattaforme e che servano a molteplici casi d’uso per salvaguardare la vita digitale dei consumatori.
Mcafee, perché il progetto Mockingbird
I merli sono un gruppo di uccelli noti soprattutto per imitare o “prendere in giro” il canto di altri uccelli. Sebbene non sia stata dimostrata la ragione per cui i Mockingbirds imitano, una teoria alla base di questo comportamento è che le femmine potrebbero preferire i maschi che cantano più canzoni, quindi i maschi imitano per ingannarle. Allo stesso modo, i criminali informatici sfruttano l’IA generativa per “prendere in giro” o clonare le voci di celebrità, influencer e persino persone care al fine di frodare i consumatori.
Profonde preoccupazioni per la tecnologia Deepfake
I consumatori sono sempre più preoccupati per la natura sofisticata di queste truffe, in quanto non si fidano più del fatto che i loro sensi e le loro esperienze siano sufficienti a determinare se ciò che vedono o sentono è reale o falso. I risultati dell’indagine Deepfakes di McAfee del dicembre 2023 hanno rivelato quanto segue:
Esperienze e prospettive dei deepfake
La stragrande maggioranza (84%) degli americani è preoccupata di come verranno utilizzati i deepfake nel 2024.
Il 68% degli americani è più preoccupato per i deepfakes oggi rispetto a un anno fa.
Più di un terzo (33%) degli americani ha dichiarato di aver visto o sperimentato una truffa deepfake (16%) o di conoscere qualcuno (17%), con un’incidenza maggiore tra i giovani di età compresa tra i 18 e i 34 anni (40%).
Le maggiori preoccupazioni per l’uso di deepfake nel 2024
Più della metà (52%) degli americani teme che l’aumento dei deepfake possa influenzare le elezioni, minare la fiducia del pubblico nei media (48%) ed essere usato per impersonare personaggi pubblici (49%).
Anche la preoccupazione per la proliferazione delle truffe grazie all’IA e ai deepfake è notevole, con il 57%.
L’uso di deepfakes per il cyberbullismo preoccupa il 44% degli americani, mentre più di un terzo (37%) teme che i deepfakes vengano usati per creare contenuti sessualmente espliciti.
