UNICEF este din ce în ce mai alarmat de rapoartele privind creșterea rapidă a volumului de imagini sexualizate generate cu ajutorul inteligenței artificiale (AI) care circulă online, inclusiv cazuri în care fotografii ale copiilor au fost manipulate și sexualizate, potrivit unui comunicat.
Deepfake-urile – imagini, videoclipuri sau fișiere audio generate sau manipulate cu ajutorul inteligenței artificiale (AI) astfel încât să pară reale – sunt utilizate tot mai frecvent pentru a produce conținut sexualizat care implică copii, inclusiv prin așa-numita „nudificare”, un proces prin care instrumente AI sunt folosite pentru a elimina sau modifica hainele din fotografii, creând imagini nude sau sexualizate fabricate.
Noi dovezi confirmă amploarea acestei amenințări în plină expansiune: într-un studiu realizat de UNICEF, ECPAT și INTERPOL în 11 țări, cel puțin 1,2 milioane de copii au declarat că, în ultimul an, imaginile lor au fost manipulate și transformate în deepfake-uri cu conținut sexual explicit. În unele țări, acest lucru reprezintă 1 copil din 25, echivalentul unui copil dintr-o clasă obișnuită.
Copiii înșiși sunt profund conștienți de acest risc. În unele dintre țările incluse în studiu, până la două treimi dintre copii au spus că se tem că AI ar putea fi folosită pentru a crea imagini sau videoclipuri cu conținut sexual fals. Nivelul de îngrijorare variază semnificativ de la o țară la alta, ceea ce subliniază nevoia urgentă de măsuri mai puternice de conștientizare, prevenție și protecție.
„Trebuie să fim foarte clari: imaginile sexualizate ale copiilor generate sau manipulate cu ajutorul AI constituie material de abuz sexual asupra copiilor (CSAM). Abuzul prin deepfake este abuz, iar nimic nu este „fals” în privința prejudiciului pe care îl provoacă”, subliniază UNICEF.
Atunci când imaginea sau identitatea unui copil este folosită, acel copil este victimizat direct. Chiar și în absența unui copil identificabil, materialele de abuz sexual asupra copiilor generate cu AI normalizează exploatarea sexuală a copiilor, alimentează cererea pentru conținut abuziv și creează provocări majore pentru autoritățile de aplicare a legii, în identificarea și protejarea copiilor care au nevoie de ajutor.
„UNICEF salută ferm eforturile acelor dezvoltatori de inteligență artificială care implementează abordări de tip safety-by-design și mecanisme solide de protecție pentru a preveni utilizarea abuzivă a sistemelor lor. Cu toate acestea, peisajul rămâne inegal, iar prea multe modele AI nu sunt dezvoltate cu garanții adecvate. Riscurile sunt amplificate atunci când instrumentele de AI generativ sunt integrate direct în platformele de social media, unde imaginile manipulate se răspândesc rapid”, transmite organizația.
UNICEF face un apel urgent pentru următoarele acțiuni, menite să combată amenințarea tot mai mare a materialelor de abuz sexual asupra copiilor generate cu AI:
- Toate guvernele să extindă definițiile materialelor de abuz sexual asupra copiilor (CSAM) pentru a include conținutul generat cu AI și să incrimineze crearea, obținerea, deținerea și distribuirea acestuia.
- Dezvoltatorii de AI să implementeze abordări „safety-by-design” și mecanisme de protecție solide pentru a preveni utilizarea abuzivă a modelelor AI.
- Companiile digitale să prevină circulația materialelor de abuz sexual asupra copiilor generate cu AI, nu doar să le elimine după ce abuzul a avut loc, și să consolideze moderarea conținutului prin investiții în tehnologii de detectare, astfel încât acest tip de material să fie eliminat imediat, nu la zile distanță după raportarea de către victimă sau reprezentantul acesteia.
„Prejudiciul cauzat de abuzul prin deepfake este real și urgent. Copiii nu pot aștepta ca legea să țină pasul”, mai subliniază UNICEF.
La nivelul Uniunii Europene, Comisia Europeană a reacționat ferm după apariția unor deepfake-uri cu conținut sexual explicit care implică minori, generate cu ajutorul Grok, instrumentul de inteligență artificială asociat platformei X, deținută de Elon Musk. Executivul european a subliniat că astfel de materiale sunt ilegale și complet inacceptabile în spațiul digital european.
Comisia a reamintit că X are obligația legală de a respecta Legea privind serviciile digitale (DSA) și de a preveni răspândirea conținutului ilegal, inclusiv a materialelor de tip deepfake generate prin inteligență artificială. Comisarul european pentru suveranitate tehnologică, securitate și democrație, Henna Virkkunen, a cerut companiei să corecteze rapid vulnerabilitățile instrumentului Grok, avertizând că, în lipsa unor măsuri imediate, UE este pregătită să aplice sancțiuni în temeiul DSA.
De la începutul lunii ianuarie, sute de femei și adolescente, inclusiv figuri publice, au acuzat că în fotografiile lor postate pe rețelele de socializare au fost „dezbrăcate” și postate în bikini de către Grok, la solicitarea utilizatorilor.
Instrumentul deepfake a determinat anchete din partea autorităților de reglementare din întreaga Europă, inclusiv la Bruxelles, Dublin, Paris și Londra.
Scandalul reprezintă un nou test al hotărârii UE de a-i ține în frâu pe Musk și marile companii tehnologice americane.
Cu doar o lună în urmă, Bruxelles-ul a amendat X cu 120 de milioane de euro pentru încălcarea legii istorice a blocului privind platformele, Actul privind Serviciile Digitale (DSA).
Amenda a generat o reacție puternică din partea Washingtonului. Administrația Trump a decis să impună restricții de călătorie pentru mai mulți oficiali europeni, inclusiv pentru fostul comisar european pentru servicii digitale considerat arhitectul DSA, Thierry Breton.
Gestul a generat critici din partea Uniunii Europene, președintele francez Emmanuel Macron calificând hotărârea SUA drept „o formă de intimidare”.