OpenAI a anunțat că, în următoarele săptămâni, va introduce marcaje invizibile în textele generate de ChatGPT şi Codex pe teritoriul Uniunii Europene, măsură menită să răspundă cerinţelor Regulamentului UE privind inteligenţa artificială (AI Act).
Compania explică că tehnologia numită textGrain adaugă un semnal statistic invizibil la selecţia cuvintelor realizată de model, semnal pe care un instrument de detectare îl caută pentru a evalua dacă un fragment poartă un marcaj OpenAI. OpenAI intenţionează să pună această tehnologie la dispoziţia comunităţii şi ca software cu cod-sursă deschis.
Totuşi, firmei îi este clar că marcajele şi detectarea sunt în stadii incipiente şi au limitări importante: fragmentele scurte, editările care înlocuiesc cuvinte sau formulările restrictive reduc semnificativ precizia. În teste, înlocuirea a 25% din cuvinte a făcut ca rata de detectare să scadă de la 92% la 17%.
OpenAI va oferi opţiunea activării marcajelor invizibile pentru clienţii API şi va limita iniţial accesul la instrument de detectare cercetătorilor şi organizaţiilor specializate. Compania subliniază că marcajele nu evaluează contribuţia umană, dreptul de proprietate, legalitatea utilizării sau veridicitatea conţinutului, iar absenţa unui marcaj detectat nu înseamnă că textul a fost scris de un om.
Comentarii recente