OpenAI ha annunciato una serie di ottimizzazioni e modifiche alle risposte e al comportamento di ChatGPT, per un utilizzo dell’AI più consapevole e responsabile, e una maggiore attenzione al benessere mentale e alla gestione del tempo dell’utente.
La prima di queste ottimizzazioni riguarda il supportare l’utente quando è in difficoltà. ChatGPT – sottolinea OpenAI – è addestrato a rispondere con sincerità e concretezza. Il team però è consapevole che ci sono stati casi in cui il modello 4o non è riuscito a riconoscere i segni di convinzione errata o dipendenza emotiva.
Sebbene si tratti di casi rari, specifica OpenAI, il team continua a migliorare i modelli dell’azienda e sta sviluppando strumenti per rilevare meglio i segni di disagio mentale o emotivo, in modo che ChatGPT possa rispondere in modo appropriato e indirizzare le persone verso risorse basate su prove scientifiche quando necessario.
La seconda modifica ha l’obiettivo di aiutare l’utente a mantenere il controllo del proprio tempo. Da ora in poi, durante le sessioni lunghe, gli utenti vedranno dei promemoria discreti che incoraggeranno a fare delle pause. Il team continuerà a perfezionare quando e come vengono visualizzati questi messaggi, in modo che risultino naturali e utili.
La terza ottimizzazione è progettata per aiutare l’utente a risolvere le proprie sfide personali. Quando gli utenti chiedono qualcosa del tipo “Dovrei rompere con il mio fidanzato/la mia fidanzata?”, ChatGPT non dovrebbe dare una risposta, sottolinea OpenAI. Dovrebbe invece aiutare le persone a riflettere, ponendo domande e valutando i pro e i contro. OpenAI, quindi, introdurrà presto un nuovo comportamento per le decisioni personali ad alto rischio.
Per queste ottimizzazioni, OpenAI sta lavorando a stretto contatto con esperti al fine di migliorare il modo in cui ChatGPT risponde nei momenti critici, ad esempio quando qualcuno mostra segni di disagio mentale o emotivo.
Per le competenze mediche, il team ha collaborato con oltre 90 medici in più di 30 Paesi, tra cui psichiatri, pediatri e medici generici, per creare rubriche personalizzate per la valutazione di conversazioni complesse e articolate.
Per la collaborazione nella ricerca, OpenAI sta coinvolgendo ricercatori e medici specializzati nell’interazione uomo-computer (HCI) per ottenere feedback su come il team ha identificato i comportamenti preoccupanti, perfezionare i metodi di valutazione e sottoporre a stress test le misure di sicurezza del prodotto.
OpenAI sta inoltre creando un gruppo consultivo composto da esperti in salute mentale, sviluppo giovanile e interazione uomo-macchina. Questo gruppo contribuirà a garantire che l’approccio dell’azienda rispecchi le ricerche più recenti e le migliori pratiche.
Si tratta – sottolinea OpenAI – di un lavoro in corso e l’azienda condividerà ulteriori informazioni man mano che procederà in questo percorso, mentre l’approccio del team continuerà ad evolversi man mano che imparerà dall’uso nel mondo reale.
Ulteriori informazioni su come OpenAI sta ottimizzando ChatGPT sono disponibili nel blog dell’azienda.
