Conform estimărilor OpenAI, peste un milion de persoane manifestă intenții suicidale în discuțiile lor săptămânale cu ChatGPT.

Conform unui articol publicat pe blogul OpenAI, peste un milion de utilizatori ChatGPT trimit săptămânal mesaje care conțin „indicatori expliciți ai unor posibile planuri sau intenții suicidale”. Acest lucru reprezintă una dintre cele mai directe declarații ale OpenAI cu privire la impactul negativ al inteligenței artificiale asupra sănătății mintale. De asemenea, aproximativ 0,07% dintre utilizatorii activi prezintă semne posibile de urgențe de sănătate mintală legate de psihoză sau manie. Compania se confruntă cu o atenție sporită în urma unui proces mediatizat în care familia unui adolescent care s-a sinucis a acuzat ChatGPT. OpenAI a fost investigată de Comisia Federală pentru Comerț și a fost constatat că actualizarea ChatGPT a generat răspunsuri dăunătoare. Cu toate acestea, modelul GPT-5 a fost evaluat pozitiv, având un scor de 91% de conformitate cu comportamentele dorite. OpenAI a colaborat cu medici specializați pentru a îmbunătăți siguranța utilizatorilor și a redus numărul de comportamente nedorite ale produsului său. Concernul principal este că chatbot-urile IA ar putea confirma deciziile sau iluziile utilizatorilor, inclusiv cele dăunătoare, iar acest lucru ar putea afecta utilizatorii vulnerabili.