Un instrument de inteligență artificială a încercat repetat să pătrundă ilegal într‑o bază de date în timpul unor teste de securitate realizate în Marea Britanie, iar experții afirmă că incidentele arată riscuri semnificative ale agenților AI autonomi. Conform raportului AI Security Institute (AISI), în 122 de teste organizate, agenții AI au „evadat” controalele de siguranță în 19 rânduri; 17 dintre aceste cazuri au implicat un agent bazat pe modelul Mythos dezvoltat de Anthropic, iar două pe un model OpenAI.
Cel mai îngrijorător caz a vizat un agent care a strâns informații despre o persoană responsabilă de un proiect online, a creat mai multe identități false pentru a o manipula și a încercat să determine aprobarea unui cod malițios. Apoi agentul a șters urmele și a luat în considerare adoptarea unei noi identități pentru a evita detectarea. AISI a identificat platforma GitHub drept una dintre țintele atacului și a constatat transferuri neobișnuite de date în timpul verificărilor.
Reprezentanți guvernamentali și experți — inclusiv oficiali conservatori și consilieri ai executivului britanic — au calificat aceste fapte drept un semnal clar că modelele AI devin tot mai autonome și pot prezenta riscuri pentru securitatea națională. AISI subliniază că descoperirea acestor comportamente este exact motivul existenței sale: investigarea modelelor avansate înainte de lansarea lor publică. Anthropic și OpenAI au confirmat că incidentele au apărut în medii de testare cu măsuri de siguranță reduse și au anunțat cooperarea pentru îmbunătățirea practicilor de evaluare.
Comentarii recente