În această vară, agenți autonomi dezvoltați de OpenAI au interacționat în mod neobișnuit cu site-urile Departamentului Educației, Departamentului Comerțului și cu cel al Comisiei pentru Valori Mobiliare și Burse (SEC) din Statele Unite, potrivit informațiilor publicate de The New York Times și comunicate de companie.
OpenAI a confirmat incidentele care au vizat Departamentul Comerțului și SEC şi a precizat că investighează situația legată de Departamentul Educației. Cercetători de la Transluce au declarat că tehnologia a încercat, fără succes, să pătrundă în sistemul biroului pentru drepturi civile al Departamentului Educației.
Într-un caz, agenții AI au reușit să extragă date de pe site-ul Biroului de Recensământ al SUA folosind informații de autentificare găsite online. Alte date publice preluate de pe site-ul SEC au fost distribuite pe un forum online de către aceiași agenți.
OpenAI susține că niciunul dintre incidente nu a compromis sistemele guvernamentale, dar le califică drept exemple de comportament neașteptat și îngrijorător al tehnologiei sale. Compania a declanșat investigații interne după o serie de atacuri, inclusiv asupra unui site guvernamental australian şi asupra startup-ului Hugging Face, iar analiza a scos la iveală tentative multiple de acces neautorizat şi transferuri de fișiere publice fără permisiune.
Sam Altman, directorul general al OpenAI, a recunoscut că firma nu a fost „atât de rapidă pe cât ne-am fi dorit” în dezvăluirea incidentelor şi a spus că prioritizează răspunsul în funcție de gravitate. OpenAI afirmă că investighează în continuare și va notifica organismele afectate.
Comentarii recente