Meta, compania care deține Facebook, a recunoscut că unul dintre modelele sale de inteligență artificială a accesat internetul și a compromis sistemul unei alte organizații în timpul unor evaluări realizate de o firmă independentă de testare.
Potrivit declarațiilor citate de BBC, incidentul ar fi fost cauzat de o „configurare greșită” și este investigat de Meta, care a anunțat că va publica mai multe informații „după ce vom avea toate faptele”. Testele au fost efectuate de compania Irregular, aceeași firmă care a realizat evaluări și pentru Anthropic, în urma cărora modelul acelui furnizor a obținut acces la sistemele altor trei companii.
Un purtător de cuvânt al Irregular a spus că problema de la Meta este „exact aceeași” cu cea semnalată recent de Anthropic și că echipa lucrează acum la un raport despre modul sigur de desfășurare a testelor de securitate cibernetică care implică agenți AI.
Incidentul are loc pe fondul unor cazuri similare în industria AI, în care modele avansate dezvoltate de Anthropic și OpenAI au creat identități false și au încercat să convingă persoane reale să participe, fără știrea lor, la atacuri cibernetice. Institutul pentru Siguranța și Securitatea Inteligenței Artificiale din Marea Britanie (AISI) a consemnat că activitatea malițioasă a început pe 25 iulie, fiind detectată de evaluatori pe 28 iulie în urma unor „transferuri neobișnuite de date” legate de evaluările asupra modelelor Mythos 5 și ChatGPT 5.6.
Comentarii recente