Google ha annunciato di aver aggiornato la sua intelligenza artificiale in materia di salute mentale, soprattutto per i giovani. La decisione ha fatto seguito ad un dibattito mondiale all’attenzione di molti governi, compreso quello italiano. Da oggi le novità sono disponibili in tutto il mondo. Sulla piattaforma Gemini arriva il modulo “Puoi chiedere aiuto”, realizzato in collaborazione con alcuni esperti clinici nel caso in cui una conversazione dovesse indicare che un utente si trova in un momento di grave difficoltà.
Verrà poi introdotta l’interfaccia “one-touch”, che fornisce una connessione immediata con le linee di assistenza per le emergenze. Google.org annuncia anche un finanziamento a livello globale per i prossimi tre anni, il quale sarà destinato a sostenere le linee di assistenza. Inoltre Google ha sviluppato strumenti specifici di protezione per i minori, per evitare argomenti pericolosi quando utilizzano Gemini. Ci sono anche delle protezioni sulla “personalità” di Gemini, con specifiche regole che impediscono all’intelligenza artificiale di presentarsi come un essere umano o un suo compagno fidato. Queste protezioni evitano la dipendenza emotiva evitando un tipo di linguaggio che stimola intimità e bisogni personali umani, con lo scopo di innalzare il livello di sicurezza contro il bullismo.
Google afferma in un post ufficiale: “Sebbene Gemini possa essere uno strumento utile per imparare e ottenere informazioni, non sostituisce l’assistenza clinica professionale, la terapia o il supporto d’emergenza per chi ne ha bisogno”. Ed è proprio per questo motivo che la piattaforma è in grado di riconoscere quando una conversazione segnala una possibile criticità di salute mentale rispondendo in modo appropriato.
L’obiettivo principale di Google è quello di evitare di confermare convinzioni errate per mantenere sempre una prospettiva legata alla realtà e ai fatti. E per questo i team clinici, di ingegneri e di sicurezza che lavorano per la piattaforma hanno il principale scopo di dare priorità alla sicurezza e alle relazioni umane, mettendo al centro il benessere degli utenti e promuovendo un uso più responsabile dell’IA.
