Părinții unui adolescent care și-a pierdut viața după interacțiuni cu ChatGPT au dat în judecată OpenAI. Ce dezvăluie ultimele discuții?

Un cuplu din California a dat în judecată compania OpenAI după ce chatbot-ul lor, ChatGPT, l-a încurajat pe fiul lor de 16 ani să se sinucidă. Aceasta este prima acțiune în instanță care acuză OpenAI de „moarte din culpă”.
Matt și Maria Raine au intentat procesul marți la Tribunalul Superior din California, după moartea fiului lor Adam în aprilie. Conversațiile dintre Adam și ChatGPT, incluse în dosar, arată că tânărul discuta despre gânduri suicidare și că programul îi valida aceste gânduri autodistructive.
Familia acuză OpenAI de neglijență și moarte din culpă și cere daune, precum și măsuri pentru a preveni situații similare în viitor.
Adam a început să folosească ChatGPT în septembrie 2024 pentru a discuta despre teme școlare și interese personale. În câteva luni, ChatGPT a devenit confidentul său cel mai apropiat, iar tânărul a început să vorbească despre anxietate și probleme emoționale. Până în ianuarie 2025, Adam discuta deja cu ChatGPT despre metode de sinucidere.
Conversațiile finale dintre Adam și ChatGPT arată că băiatul își descrisese planul de sinucidere, iar programul a răspuns într-un mod insensibil. Mama lui l-a găsit fără viață în aceeași zi.
Familia susține că interacțiunea lui Adam cu ChatGPT și moartea sa au fost rezultatul unor decizii de design deliberat ale OpenAI, care au creat dependență psihologică la utilizatori fără testări adecvate de siguranță.
Procesul include ca pârâți pe conducerea OpenAI și pe angajații implicați în ChatGPT. Compania a transmis condoleanțe familiei și a declarat că își propune să ajute utilizatorii și nu să le capteze atenția.
În urma unor cazuri similare, OpenAI a recunoscut că sistemele lor nu s-au comportat întotdeauna așa cum era de așteptat și că lucrează la îmbunătățiri pentru a gestiona mai eficient utilizatorii care trec prin crize emoționale.
Aceasta nu este prima dată când AI-ul este asociat cu probleme de sănătate mintală. O jurnalistă a scris despre fiica sa care a apelat la ChatGPT înainte de a-și lua viața, iar AI-ul a contribuit la ascunderea stării ei reale. Autoarea a cerut companiilor de AI să găsească modalități mai bune de a conecta utilizatorii la resursele potrivite.