Cefriel, centro di innovazione digitale fondato nel 1988, ha presentato i primi risultati della borsa di dottorato in Explainable AI e conoscenza umana assegnata ad Andrea Tocchetti, dottorando al terzo anno del Politecnico di Milano, sotto la supervisione del professor Marco Brambilla.
Si tratta della prima borsa di dottorato interamente sostenuta da Cefriel, che conferma ancora una volta il suo impegno a sostegno dell’alta formazione nel campo dell’intelligenza artificiale. L’obiettivo è quello di rafforzare la comunità dei ricercatori che promuovono l’innovazione sia nel mondo accademico che in quello industriale.
La borsa di dottorato risponde al bisogno di trasparenza del processo decisionale delle macchine, attualmente molto sentito anche a livello europeo in quanto fortemente connesso con l’analisi di rischi di bias e alterazione dei risultati nei processi decisionali automatizzati.
Nel corso degli ultimi due anni, il dottorando ha incentrato le attività di ricerca sulla comprensibilità dei modelli di intelligenza artificiale, indagandone le implicazioni, soprattutto rispetto a percezione e coinvolgimento dell’utente nei processi decisionali basati su machine learning.
Le attività di ricerca si sono focalizzate sull’utilizzo della conoscenza umana per spiegare il comportamento e i risultati ottenuti tramite modelli di intelligenza artificiale, principalmente di tipo black-box (o “scatola nera”), il cui comportamento è difficilmente interpretabile da esseri umani. Data la necessità di coinvolgere utenti umani in questo processo, un altro elemento fondamentale è stato lo sviluppo di metodi per semplificare e migliorare la raccolta della conoscenza.
Per il raggiungimento di tale obiettivo, sono state utilizzate tecniche di gamification, che consentono di strutturare applicazioni utilizzando elementi di design solitamente impiegati nel campo dei videogiochi. La ricerca ha esplorato l’implementazione e l’utilizzo di tali tecniche in diversi ambiti per poterne valutare l’efficacia e l’usabilità. La ricerca ha trattato due diverse categorie di modelli: modelli di elaborazione del linguaggio naturale (modelli di “Natural Language Processing”) e modelli per visione artificiale (modelli di “Computer Vision”).
“Per me è stata una grande opportunità tramite la quale sfidarmi su tematiche nuove, che oggi hanno un impatto importante. Ho capito in questi tre anni che per comprendere appieno questo tema occorre avere non solo una competenza ingegneristica e tecnica, ma anche psicologica, filosofica, multidisciplinare. Il confronto con le persone che lavorano in Cefriel ha guidato il mio cammino nell’ambito di ricerca e mi ha aiutato a costruire una strada che mi ha portato ai risultati ottenuti in termini di conoscenza del tema”, ha affermato Andrea Tocchetti.
“La ricerca è essenziale per alimentare e sostenere le attività di innovazione con le imprese. Grazie alla ricerca possiamo esplorare e validare nuove idee, facendole maturare per essere utilizzate in applicazioni concrete. Per questo finanziare una borsa di dottorato su un tema così importante è per Cefriel una iniziativa di carattere strategico e assolutamente indispensabile”, ha affermato Alfonso Fuggetta, amministratore delegato di Cefriel.
