Europa este șocată de imaginile video care arată abuzuri asupra copiilor generate de inteligența artificială. România se află în centrul atenției.

În ultima perioadă, o amenințare din ce în ce mai mare afectează internetul, iar victimele nu sunt doar cifre sau imagini abstracte – sunt copii reali, chiar dacă nu sunt direct implicați. Problema este reprezentată de imaginile create de inteligența artificială (AI), extrem de realiste, care redau abuzuri sexuale asupra copiilor. Aceste imagini nu sunt fotografii reale, dar sunt atât de credibile încât devin greu de distins de realitate, chiar și pentru specialiști în domeniu.

Un raport recent al Internet Watch Foundation (IWF) a remarcat o creștere alarmantă de 380% a materialelor ilegale generate de AI ce reprezintă abuzuri sexuale asupra copiilor în 2024, comparativ cu anul anterior. Aproape 250 de plângeri au fost înregistrate anul trecut doar în Marea Britanie, vizând peste 7.600 de imagini și videoclipuri cu scene de abuz extrem. Aceste imagini, deși fictive, sunt create și distribuite pentru a satisface fanteziile periculoase ale unor indivizi care consumă acest tip de conținut.

În total, Internet Watch Foundation a identificat în 2024 peste 291.000 de materiale online care conțineau abuz sexual asupra copiilor, inclusiv materiale generate de AI, un record absolut. Acestea includ atât conținut cu victime reale, cât și materiale fictive, ambele considerate ilegale și dăunătoare. Mai mult, 97% dintre aceste cazuri confirmate implicau fete, evidențiind un dezechilibru grav în dinamica exploatării sexuale online a minorilor.

Mai îngrijorător este faptul că peste 62% dintre aceste materiale au fost găzduite pe servere din Uniunea Europeană, subliniind cât de răspândit este fenomenul și în țările dezvoltate. România ocupă un loc alarmant în acest clasament, situându-se pe poziția a treia, imediat după Olanda și Bulgaria. Această situație arată nu doar o problema de reglementare, ci și o lipsă de reacție eficientă în fața conținutului ilegal ce circulă nestingherit pe servere europene.

Chiar dacă aceste imagini nu reprezintă copii reali, impactul lor psihologic și social este devastator. Ele alimentează comportamente abuzive și creează o cultură periculoasă de normalizare a abuzului sexual online asupra minorilor. Mai mult, aceste imagini pot contribui la o vulnerabilitate crescută a copiilor reali, incitând pedofilii să treacă la acțiuni concrete.

Pentru a contracara această problemă, guvernul britanic a introdus noi legi care interzic crearea, deținerea și distribuirea de materiale ilegale generate de AI, începând cu luna februarie a acestui an. De asemenea, Internet Watch Foundation oferă un instrument gratuit, Image Intercept, care poate detecta și bloca imagini ilegale, inclusiv pe site-urile mai mici.

Autoritățile și organizațiile de siguranță online avertizează că amenințările online sunt în continuă evoluție și pot avea consecințe devastatoare în lumea reală. De aceea, este crucial să facem spațiile online mai sigure pentru copii și să folosim tehnologia ca un aliat în protejarea celor vulnerabili, nu ca un instrument al abuzului.