OpenAI ha avviato il rilascio di Trusted Contact, una nuova funzione opzionale di sicurezza per ChatGPT pensata per collegare l’utente a una persona fidata nei casi in cui emergano segnali di possibile autolesionismo o rischio grave. La funzione è rivolta agli utenti adulti e permette di indicare un familiare, un amico, un caregiver o un’altra persona di riferimento che potrà ricevere una notifica in circostanze considerate serie dopo una revisione umana.
Come funziona Trusted Contact
La funzione può essere attivata dalle impostazioni di ChatGPT. L’utente può indicare un solo contatto adulto, con età minima di 18 anni a livello globale e 19 anni in Corea del Sud. La persona scelta riceve un invito che deve accettare entro una settimana; in caso contrario, la funzione resta inattiva e l’utente può selezionare un altro contatto.
Se i sistemi automatici di OpenAI rilevano che una conversazione potrebbe contenere riferimenti al suicidio o all’autolesionismo con un livello di rischio serio, ChatGPT avvisa l’utente che il contatto di fiducia potrebbe essere informato. Prima dell’eventuale invio, un piccolo team di persone con formazione specifica valuta il caso. Solo dopo questa verifica può partire una notifica via email, SMS o app, se il contatto dispone di un account ChatGPT.
Privacy e limiti della notifica
OpenAI precisa che la notifica inviata al contatto è volutamente limitata. Non include il testo della conversazione, dettagli della chat o trascrizioni. Il messaggio indica soltanto che è emersa una possibile preoccupazione legata all’autolesionismo e invita il contatto a verificare come sta la persona. La notifica include anche un collegamento a indicazioni pensate per affrontare conversazioni sensibili.
L’utente può modificare o rimuovere il proprio Trusted Contact in qualsiasi momento dalle impostazioni. Anche la persona indicata come contatto di fiducia può rimuovere il proprio ruolo tramite il centro assistenza di OpenAI.
Una misura aggiuntiva, non un sostituto dell’aiuto professionale
OpenAI presenta Trusted Contact come un ulteriore livello di supporto, non come alternativa a cure professionali, servizi di emergenza o linee di aiuto. Nei casi più sensibili, ChatGPT continuerà a indirizzare gli utenti verso numeri di crisi, servizi di emergenza, professionisti della salute mentale o persone vicine.
La scelta si inserisce in un filone più ampio di interventi sulla sicurezza emotiva nell’uso dei chatbot. OpenAI richiama il ruolo della connessione sociale come fattore protettivo nei momenti di sofferenza psicologica e afferma di aver sviluppato la funzione con il contributo di clinici, ricercatori e organizzazioni specializzate in salute mentale e prevenzione del suicidio, tra cui l’American Psychological Association.
Il precedente dei controlli parentali
Trusted Contact nasce anche come estensione delle notifiche di sicurezza già previste nei controlli parentali di ChatGPT. In quel caso, genitori o tutori possono ricevere avvisi quando un account teen collegato mostra segnali di disagio acuto. Con la nuova funzione, OpenAI porta un meccanismo simile anche agli utenti adulti, ma su base volontaria e con un contatto scelto direttamente dalla persona.
La società afferma che i casi di questo tipo sono rari, ma sottolinea la necessità di una risposta tempestiva. Secondo OpenAI, ogni notifica passa da una revisione umana prima dell’invio e l’obiettivo dichiarato è valutare questi avvisi in meno di un’ora.
Il quadro delle salvaguardie di ChatGPT
Trusted Contact si aggiunge ad altre misure già presenti in ChatGPT per le conversazioni sensibili. OpenAI indica il ricorso a risorse localizzate per le crisi, il rifiuto di fornire istruzioni per suicidio o autolesionismo, l’invito a contattare servizi di emergenza o persone reali, e in alcuni casi suggerimenti per fare una pausa dopo un uso prolungato.
Il punto centrale resta il rapporto tra assistenza automatizzata, privacy e intervento umano. Con Trusted Contact, OpenAI prova a collocare ChatGPT in una posizione meno isolata nei momenti di rischio, affidando l’eventuale attivazione di un contatto reale a una combinazione di sistemi automatici e revisione da parte di personale formato.
Aiutaci a crescere: lasciaci un like :)