Trei cercetători de la compania americană Anthropic au făcut publice avertismente serioase privind riscurile generate de modelele de inteligență artificială foarte avansate. Jacob Coxon și-a anunțat marți demisia și a explicat pe X că mulţi specialişti din industrie consideră că AI ar putea reprezenta un pericol existenţial până la sfârşitul deceniului.
În următoarele reacţii, Evan Hubinger, responsabil cu cercetarea în aliniera AI la Anthropic, a afirmat că există un risc de peste 10% ca dezvoltarea inteligenţei artificiale să conducă la dispariţia omenirii în următorul deceniu. Hubinger a spus că firma caută soluţii, dar „nu are încă un plan” clar pentru rezolvarea problemei alinierii în faţa unei posibile superinteligenţe.
Samuel Marks, care lucrează la sisteme de supraveghere a modelelor AI, a declarat şi el că mulţi dezvoltatori se tem de scenarii care pot duce la „extincţia umanităţii sau consecinţe la fel de grave”, menţionând că astfel de riscuri ar putea apărea chiar în câţiva ani. Cercetătorii subliniază în special pericolul autoîmbunătăţirii recursive, când un sistem AI contribuie la îmbunătăţirea propriilor capacităţi, accelerând evoluţia tehnologică şi reducând capacitatea oamenilor de control.
Avertismentele vin într-un context de investiţii masive în modele tot mai performante. În acelaşi timp, companiile solicită reguli mai stricte, iar criticii avertizează că astfel de declaraţii pot servi şi interese de piaţă. Reprezentanţii Anthropic şi alţi foşti angajaţi spun însă că îngrijorările provin din lucrul direct cu sisteme care nu sunt disponibile publicului.
Comentarii recente