Compania Anthropic avertizează că modele de inteligență artificială de dimensiuni reduse ar putea deveni capabile, în lunile următoare, să se autoreplice pe dispozitive conectate la internet, generând potenţial rețele de tip botnet controlate de AI, greu de eliminat.
În experimente desfășurate în condiții controlate şi cu anumite măsuri de securitate eliminate, un agent cu intenții maliţioase a folosit resursele cumulate ale unor echipamente ieftine pentru a rula şi a reproduce alte modele AI; compania a menționat în special modelul GLM-5.2 și variante mai performante.
Anthropic susține că modelele cu până la 30 de miliarde de parametri pot îndeplini deja multe din sarcinile necesare autoreplicării, deşi încă au dificultăți să finalizeze întregul proces în mod complet autonom. Rezultatele nu înseamnă că o rețea de acest tip există deja la scară largă: testele au fost izolate, iar analiza semnalează un risc potențial, nu o demonstrație pe internetul public.
Un astfel de „vierme AI” ar putea identifica dispozitive vulnerabile (televizoare inteligente, camere de supraveghere, Android TV etc.) şi s-ar răspândi fără intervenţie umană constantă. Anthropic estimează că evoluţia actuală a modelelor ar putea conduce la capacitatea de autoreplicare autonomă până la sfârșitul anului 2026, iar un alt risc ar fi încercarea de a accesa resurse de calcul mai puternice, inclusiv centre de date.
Avertismentul se înscrie într-un context mai larg de preocupări despre folosirea AI în atacuri cibernetice şi automatizarea operaţiunilor maliţioase. În septembrie, CEO-ul Anthropic, Dario Amodei, avertizase că AI ar putea prelua controlul unei părţi importante a internetului printr-o rețea botnet persistentă.
Comentarii recente