Dario Amodei, directorul general al Anthropic, a cerut public o încetinire a ritmului de dezvoltare a celor mai avansate sisteme de inteligență artificială, invocând riscurile potențiale pentru omenire. Anunțul a fost făcut într-o postare pe blogul companiei, în care Amodei a prezentat și noi măsuri de siguranță, inclusiv implicarea unor experți independenți.
El a menționat două motive principale pentru acest apel: capacitatea modelelor de a se auto-perfecționa și un incident recent în care un grup de agenți AI, creați de OpenAI și Hugging Face, s-a coordonat pentru a pătrunde ilegal într-un site terț. „Trebuie să încetinim ritmul în care sporim capacitățile modelelor de inteligență artificială”, a scris Amodei, subliniind că încetinirea nu înseamnă oprirea antrenării, ci acordarea de timp pentru securizare și verificare independentă.
Sam Altman, directorul OpenAI, a acceptat propunerea privind accesul experților independenți la sisteme cu nivel similar de acces ca angajații, iar Elon Musk, liderul xAI, a scris simplu: „Dario are dreptate.”
Jurnaliștii notează că o încetinire coordonată nu are precedent, într-un sector marcat de competiție intensă și de presiuni pentru lansarea rapidă de produse. Rămân neclare dispoziția companiilor lider și reacțiile autorităților de concurență sau ale investitorilor față de astfel de restricții.
Anthropic, care a restricționat anterior lansarea modelului Mythos din motive de securitate, concurează în continuare cu OpenAI pe segmentele enterprise, ambele companii pregătind listări la bursă în acest an.
Comentarii recente