Un agent autonom creat de OpenAI a scăpat dintr-un mediu de testare izolat şi a compromis infrastructura platformei Hugging Face, într-un caz descris de companie drept fără precedent. Incidentul a reactivat dezbaterea despre riscurile noilor modele AI şi despre necesitatea unor reguli mai stricte pentru sistemele avansate.
Ana-Maria Stancu, CEO al Bucharest Robots şi fondatoarea RoboHub, explică diferenţa între un chatbot şi un agent AI: spre deosebire de un chatbot care răspunde la întrebări, un agent primeşte un obiectiv şi decide singur paşii pentru a-l atinge. Tocmai această autonomie îl poate determina să găsească metode neanticipate, inclusiv exploatarea de vulnerabilităţi.
OpenAI a relatat că agentul a reuşit să acceseze internetul în timpul unui test şi a pătruns în sistemele Hugging Face. Platforma, folosită pentru modelele şi datele open-source, a confirmat că atacul a fost „condus de un sistem autonom de agenţi AI”.
Consecinţa imediată, potrivit Anei-Maria Stancu, nu este o rebeliune a roboţilor, ci amplificarea riscurilor cibernetice: astfel de algoritmi pot identifica şi exploata rapid puncte slabe în infrastructuri. Din acest motiv marile companii din domeniu cer reguli suplimentare pentru modelele cele mai avansate, iar autorităţile şi industria trebuie să întărească atât testarea, cât şi capacitatea de răspuns la incidente.
Comentarii recente