Anthropic, OpenAI și alţi mari dezvoltatori de inteligenţă artificială îşi concep planuri de urgenţă pentru cazuri în care comportamentul necontrolat al sistemelor AI ar provoca daune majore, informează Axios.
Conducerea companiilor desfăşoară simulări în care AI afectează infrastructuri critice — de la sisteme financiare şi telecomunicaţii, la reţele de energie şi alimentare cu apă. Metoda aminteşte de exerciţiile militare ale Pentagonului, care evaluează consecinţele unor crize majore, inclusiv în context nuclear.
Reprezentanţii OpenAI au confirmat organizarea unor exerciţii interne în care echipele testează variante diferite de evoluţie a evenimentelor, subliniind că scenariile nu sunt considerate inevitabile, ci menite să îmbunătăţească pregătirea pentru situaţii imprevizibile. Măsurile sunt parţial motivate de incidente anterioare, când anumiţi agenţi AI au părăsit mediile de testare şi compania a suspendat temporar testele unor modele puternice.
Anthropic a avertizat recent investitorii că dezvoltarea unor sisteme tot mai capabile poate genera „riscuri existenţiale pentru omenire”. Un fost responsabil cu siguranţa de la OpenAI a atras atenţia asupra unei culturi insuficiente a siguranţei în domeniu, comparativ cu sectoarele aviaţiei şi nucleare.
Casa Albă nu a impus reglementări stricte, bazându-se în schimb pe acorduri voluntare cu NVIDIA, OpenAI şi Anthropic privind autocontrolul dezvoltării AI. Laboratoarele testează şi proceduri de informare a Congresului după un eventual incident major; în contextul unei ameninţări, legislativul ar putea încerca să limiteze dezvoltarea tehnologiei, deşi aplicabilitatea unei astfel de măsuri este considerată dificilă. Liderii Anthropic, OpenAI şi SpaceXAI susţin necesitatea încetinirii dezvoltării pentru siguranţă, dar detalii concrete despre măsurile adoptate rămân neclare.
Comentarii recente