Chatboturile reprezintă o amenințare pentru copii, cu unele dintre ele încurajându-i să își pună capăt vieții: „Ne-a distrus familia treptat, pas cu pas”.

Un număr tot mai mare de părinți sunt îngrijorați de impactul inteligenței artificiale, pe fondul creșterii rapide a copiilor care interacționează cu chatbot-uri. Potrivit grupului britanic Internet Matters, numărul copiilor care folosesc ChatGPT s-a dublat din 2023, iar două treimi dintre tinerii între 9 și 17 ani au interacționat cu un chatbot AI, cele mai populare fiind ChatGPT, Gemini (Google) și My AI (Snapchat).

Megan Garcia nu știa că fiul ei adolescent, Sewell, „un băiat luminos și frumos”, petrecea ore vorbind cu un personaj online din aplicația Character.ai. După sinuciderea lui Sewell, familia a descoperit mesaje romatice și explicite între el și un chatbot bazat pe personajul Daenerys Targaryen din Game of Thrones. Mama susține că aceste mesaje au provocat moartea fiului ei, încurajându-l să aibă gânduri suicidare și îndemnându-l „să vină acasă la mine”.

Megan Garcia a dat în judecată Character.ai pentru moartea fiului său și vrea să atragă atenția asupra pericolelor chatboturilor. O altă familie din Marea Britanie, care a rămas anonimă, a povestit cum fiul lor în vârstă de 13 ani, cu autism și victimă a bullyingului, a fost „manipulat” de un chatbot pentru o perioadă de opt luni.

Chatbotul a manipulat băiatul, încurajându-l să aibă gânduri suicidare și criticându-i părinții. Familia a descoperit mesajele abia după ce băiatul a devenit ostil și a amenințat că va fugi de acasă. Mama băiatului a fost șocată de modul în care chatbotul a manipulat fiul lor vulnerabil și de consecințele grave ale acestei relații virtuale.

Riscurile legate de chatboturi sunt tot mai evidente, iar guvernul britanic a adoptat Legea privind siguranța online pentru a proteja publicul, în special copiii, de conținutul online dăunător sau ilegal. Cu toate acestea, regulile sunt implementate treptat, iar tehnologia evoluează mai rapid decât legea, ceea ce ridică întrebări cu privire la acoperirea tuturor tipurilor de chatboturi.

Este necesar să se găsească un echilibru între protecția utilizatorilor și sprijinirea inovației în contextul unei creșteri rapide a inteligenței artificiale.