Meta ha presentato data2vec, descritto dall’azienda come il primo algoritmo di apprendimento auto-supervisionato ad alte prestazioni, che impara allo stesso modo in più modalità, tra cui il parlato, la computer vision e il testo.
La maggior parte delle macchine – ha sottolineato Meta – impara esclusivamente da dati etichettati.
Tuttavia, attraverso l’apprendimento auto-supervisionato, le macchine sono in grado di conoscere il mondo semplicemente osservandolo e poi comprendendo la struttura delle immagini, del discorso o del testo.
Questo è un approccio più scalabile ed efficiente per le macchine, per affrontare nuovi compiti complessi, come la comprensione del testo per più lingue parlate.
Gli algoritmi di apprendimento auto-supervisionato per le immagini, il discorso, il testo o altre modalità, funzionano in modi molto diversi, il che ha limitato i ricercatori nell’applicarli in modo più ampio.
Poiché un algoritmo progettato per la comprensione delle immagini non può essere applicato direttamente alla lettura del testo – evidenzia Meta –, è difficile portare avanti diverse modalità allo stesso ritmo.
Con data2vec, Meta ha sviluppato un modo unificato per i modelli di prevedere le proprie rappresentazioni dei dati di input, indipendentemente dal fatto che si tratti di un discorso, di testo o di audio.
Focalizzandosi su queste rappresentazioni, un singolo algoritmo può lavorare con tipi di input completamente diversi.
Secondo Meta, con data2vec ci si avvicina di più al costruire macchine che imparano i diversi aspetti del mondo che le circonda, senza dover fare affidamento su dati etichettati.
Questo apre la strada a un apprendimento auto-supervisionato più generale e avvicina a un mondo in cui l’intelligenza artificiale potrebbe usare video, articoli e registrazioni audio per imparare argomenti complicati, come ad esempio il gioco del calcio o diversi modi per cuocere il pane.
Data2vec – secondo Meta –permetterà anche di sviluppare un’intelligenza artificiale più adattabile.
Un’intelligenza artificiale che – ritiene Meta – sarà in grado di eseguire compiti ben al di là di ciò che può fare oggi.