Parlamentul European a aprobat miercuri Legea privind inteligența artificială, care asigură siguranța și respectarea drepturilor fundamentale, stimulând în același timp inovarea, potrivit unui comunicat.
Regulamentul, convenit în cadrul negocierilor cu statele membre în decembrie 2023, a fost aprobat de deputați cu 523 de voturi pentru, 46 împotrivă și 49 de abțineri.
Acesta are ca scop protejarea drepturilor fundamentale, a democrației, a statului de drept și a durabilității mediului de IA cu risc ridicat, stimulând în același timp inovarea și stabilind Europa ca lider în domeniu. Regulamentul stabilește obligații pentru IA pe baza riscurilor potențiale și a nivelului de impact al acesteia.
Aplicații interzise
Noile norme interzic anumite aplicații de IA care amenință drepturile cetățenilor, inclusiv sistemele de clasificare biometrică bazate pe caracteristici sensibile și extragerea neorientată a imaginilor faciale de pe internet sau din înregistrările CCTV pentru a crea baze de date de recunoaștere facială. De asemenea, vor fi interzise recunoașterea emoțiilor la locul de muncă și în școli, scoring-ul social, activitățile polițienești predictive (atunci când acestea se bazează exclusiv pe profilarea unei persoane sau pe evaluarea caracteristicilor acesteia) și IA care manipulează comportamentul uman sau exploatează vulnerabilitățile oamenilor.
Derogări în domeniul aplicării legii
Utilizarea sistemelor de identificare biometrică (RBI) de către autoritățile de aplicare a legii este interzisă în principiu, cu excepția situațiilor enumerate în mod exhaustiv și definite în mod strict. RBI “în timp real” pot fi utilizate numai dacă sunt respectate garanții stricte, de exemplu, dacă utilizarea lor este limitată în timp și geografic și dacă fac obiectul unei autorizații judiciare sau administrative prealabile specifice. Astfel de utilizări pot include, de exemplu, căutarea selectivă a unei persoane dispărute sau prevenirea unui atac terorist. Utilizarea unor astfel de sisteme post-factum (“RBI post-remote”) este considerată un caz de utilizare cu risc ridicat, necesitând o autorizație judiciară, fiind legată de o infracțiune penală.
Obligațiile pentru sistemele cu risc ridicat
Obligații clare sunt, de asemenea, prevăzute pentru alte sisteme de inteligență artificială cu risc ridicat (din cauza potențialului lor semnificativ de afectare a sănătății, siguranței, drepturilor fundamentale, mediului, democrației și statului de drept). Printre exemplele de utilizări cu risc ridicat ale IA se numără infrastructura critică, educația și formarea profesională, ocuparea forței de muncă, serviciile publice și private esențiale (de exemplu, asistența medicală, sistemul bancar), anumite sisteme de aplicare a legii, migrația și gestionarea frontierelor, justiția și procesele democratice (de exemplu, influențarea alegerilor). Astfel de sisteme trebuie să evalueze și să reducă riscurile, să mențină jurnale de utilizare, să fie transparente și exacte și să asigure supravegherea umană. Cetățenii vor avea dreptul de a depune plângeri cu privire la sistemele de inteligență artificială și de a primi explicații cu privire la deciziile bazate pe sisteme de inteligență artificială cu risc ridicat care le afectează drepturile.
Cerințe de transparență
Sistemele de inteligență artificială de uz general (GPAI), precum și modelele GPAI pe care se bazează, trebuie să îndeplinească anumite cerințe de transparență, inclusiv să respecte legislația UE privind drepturile de autor și să publice rezumate detaliate ale conținutului utilizat pentru instruire. Modelele GPAI mai puternice, care ar putea prezenta riscuri sistemice, se vor confrunta cu cerințe suplimentare, inclusiv efectuarea de evaluări ale modelelor, evaluarea și atenuarea riscurilor sistemice și raportarea incidentelor.
În plus, imaginile artificiale sau manipulate, conținutul audio sau video (“deepfakes”) trebuie să fie etichetate în mod clar ca atare.
Măsuri de sprijinire a inovării și a IMM-urilor
La nivel național, vor trebui să se creeze sandbox-uri de reglementare care să fie accesibile IMM-urilor și start-up-urilor, pentru a dezvolta și a antrena inteligența artificială inovatoare înainte de introducerea acesteia pe piață.
Ce urmează
Regulamentul face încă obiectul unei verificări finale de tip jurist-lingvist și se așteaptă ca acesta să fie adoptat definitiv înainte de sfârșitul actualei legislaturi (prin așa-numita procedură de rectificare). De asemenea, legislația trebuie să fie aprobată în mod oficial de către Consiliu.
Aceasta va intra în vigoare la 20 de zile de la publicarea sa în Jurnalul Oficial și va fi pe deplin aplicabilă la 24 de luni de la intrarea sa în vigoare, cu excepția: interdicțiilor privind practicile interzise, care se vor aplica la șase luni de la data intrării în vigoare; a codurilor de practică (la nouă luni de la intrarea în vigoare); a normelor privind IA de uz general, inclusiv guvernanța (la 12 luni de la intrarea în vigoare); și a obligațiilor pentru sistemele cu risc ridicat (36 de luni).
