"E nessuno ci avrebbe dovuto pensare nemmeno un anno fa."
OpenAI sta implementando nuovi aggiornamenti di sicurezza per ChatGPT mentre si prepara a lanciare il suo modello di intelligenza artificiale GPT-5 questa settimana.
L'azienda afferma che le modifiche miglioreranno la capacità del chatbot di rilevare il disagio mentale o emotivo e di fornire "risorse basate su prove quando necessario".
OpenAI afferma di aver collaborato con esperti e gruppi consultivi per migliorare il proprio approccio.
Negli ultimi mesi sono emerse segnalazioni di persone che hanno avuto crisi di salute mentale legate all'uso di chatbot basati sull'intelligenza artificiale.
Alcune famiglie sostengono che le interazioni con i chatbot sembrano amplificare i deliri negli individui vulnerabili.
Nell'aprile 2025 OpenAI ha annullato un aggiornamento che rendeva ChatGPT troppo accettabile, anche in situazioni rischiose.
All'epoca, l'azienda affermò che "le interazioni adulatrici del chatbot possono essere scomode, inquietanti e causare angoscia".
L'azienda ammette che in alcuni casi il suo modello GPT-4o "non è riuscito a riconoscere i segnali di delirio o dipendenza emotiva".
OpenAI ha affermato: "Sappiamo anche che l'intelligenza artificiale può risultare più reattiva e personale rispetto alle tecnologie precedenti, soprattutto per le persone vulnerabili che soffrono di disagio mentale o emotivo".
In precedenza, il CEO di OpenAI, Sam Altman, aveva espresso preoccupazione per l'utilizzo di ChatGPT da parte delle persone come terapeuta o life coach.
Ha affermato che le tutele della riservatezza legale tra medici e pazienti o tra avvocati e clienti non si applicano allo stesso modo ai chatbot.
Altman ha detto: "Quindi, se vai a parlare con ChatGPT dei tuoi dati più sensibili e poi c'è una causa legale o qualcosa del genere, potremmo essere obbligati a produrli. E penso che sia una cosa molto sbagliata.
"Penso che dovremmo avere lo stesso concetto di privacy per le conversazioni con l'intelligenza artificiale che abbiamo con uno psicologo o chiunque altro.
"E nessuno doveva pensarci nemmeno un anno fa."
Nell'ambito della promozione di un "uso sano", ChatGPT, che ora conta quasi 700 milioni di utenti settimanali, inizierà a mostrare promemoria per fare delle pause durante le sessioni lunghe.
Apparirà una notifica che dice: "Hai chattato per un po': è il momento giusto per una pausa?"
Gli utenti possono quindi scegliere se "continuare a chattare" o terminare la conversazione.
OpenAI afferma che continuerà a perfezionare "quando e come" questi promemoria appariranno.
Simili suggerimenti sul benessere sono già utilizzati da piattaforme come YouTube, Instagram, TikTok e Xbox.
Anche Character.AI, di proprietà di Google, ha introdotto avvisi per i genitori dopo che alcune cause legali hanno accusato i suoi bot di promuovere l'autolesionismo.
Un'altra funzionalità che si dice verrà lanciata "presto" renderà ChatGPT meno decisivo nelle situazioni ad alto rischio.
OpenAI afferma che invece di fornire una risposta diretta a una domanda come "Dovrei lasciare il mio ragazzo?", il chatbot ora guiderà gli utenti attraverso le possibili opzioni.
Le modifiche apportate a OpenAI giungono in un momento in cui è sempre più evidente l'attenzione rivolta al modo in cui gli strumenti di intelligenza artificiale interagiscono con gli utenti vulnerabili.
Gli aggiornamenti riflettono un più ampio cambiamento del settore verso l'integrazione di misure di salvaguardia della salute mentale nelle piattaforme di intelligenza artificiale per i consumatori.
