Pentru a asigura o dezvoltare etică și centrată pe oameni a inteligenței artificiale (AI) în Europa, deputații europeni au aprobat noi reguli de transparență și de gestionare a riscurilor pentru sistemele de inteligență artificială, informează Parlamentul European.
Joi, 11 mai, Comisia pentru Piața Internă și Comisia pentru Libertăți Civile au adoptat un proiect de mandat de negociere privind primele reguli din istorie pentru Inteligența Artificială cu 84 de voturi pentru, 7 împotrivă și 12 abțineri. În amendamentele lor la propunerea Comisiei Europene, deputații urmăresc să se asigure că sistemele de inteligență artificială sunt supravegheate de oameni, sunt sigure, transparente, trasabile, nediscriminatorii și ecologice. De asemenea, ei doresc să aibă o definiție uniformă pentru IA, concepută pentru a fi neutră din punct de vedere tehnologic, astfel încât să se poată aplica sistemelor de IA de astăzi și de mâine.
Înainte de începerea negocierilor cu Consiliul cu privire la forma finală a legii, acest proiect de mandat de negociere trebuie să fie aprobat de întregul Parlament, votul fiind așteptat în sesiunea din 12-15 iunie.
Abordarea bazată pe riscuri a IA – Practici interzise în materie de IA
Normele urmează o abordare bazată pe riscuri și stabilesc obligații pentru furnizori și utilizatori în funcție de nivelul de risc pe care IA îl poate genera. Sistemele de inteligență artificială care prezintă un nivel inacceptabil de risc pentru siguranța persoanelor ar fi strict interzise, inclusiv sistemele care utilizează tehnici subliminale sau de manipulare intenționată, care exploatează vulnerabilitățile persoanelor sau care sunt utilizate pentru scoruri sociale (clasificarea persoanelor pe baza comportamentului lor social, a statutului socio-economic, a caracteristicilor personale).
Deputații europeni au modificat substanțial lista pentru a include interdicții privind utilizarea intruzivă și discriminatorie a sistemelor de inteligență artificială, cum ar fi:
- sisteme de identificare biometrică la distanță „în timp real” în spații accesibile publicului;
- sistemele de identificare biometrică la distanță “post”, cu singura excepție a aplicării legii pentru urmărirea penală a infracțiunilor grave și numai după autorizare judiciară;
- sistemele de clasificare biometrică care utilizează caracteristici sensibile (de exemplu, sex, rasă, etnie, statut de cetățean, religie, orientare politică);
- sistemele de poliție predictivă (bazate pe profilare, localizare sau comportament infracțional anterior);
- sisteme de recunoaștere a emoțiilor în cadrul aplicării legii, al gestionării frontierelor, la locul de muncă și în instituțiile de învățământ; și
- extragerea nediscriminatorie de date biometrice de pe rețelele de socializare sau de pe înregistrările CCTV pentru a crea baze de date de recunoaștere facială (încălcând drepturile omului și dreptul la viață privată).
Inteligența artificială cu risc ridicat
Deputații europeni au extins clasificarea domeniilor cu risc ridicat pentru a include daunele aduse sănătății, siguranței, drepturilor fundamentale sau mediului oamenilor. De asemenea, ei au adăugat sistemele de IA pentru a influența alegătorii în campaniile politice și în sistemele de recomandare utilizate de platformele de socializare (cu peste 45 milioane de utilizatori în conformitate cu Legea serviciilor digitale) la lista de risc ridicat.
IA de uz general – măsuri de transparență
Deputații europeni au inclus obligații pentru furnizorii de modele de fundație – o dezvoltare nouă și în evoluție rapidă în domeniul IA – care ar trebui să garanteze o protecție solidă a drepturilor fundamentale, a sănătății și siguranței și a mediului, a democrației și a statului de drept. Aceștia ar trebui să evalueze și să atenueze riscurile, să respecte cerințele de proiectare, de informare și de mediu și să se înregistreze în baza de date a UE.
Modelele generative, precum GPT, ar trebui să respecte cerințe suplimentare de transparență, cum ar fi dezvăluirea faptului că conținutul a fost generat de inteligența artificială, proiectarea modelului pentru a preveni generarea de conținut ilegal și publicarea rezumatelor datelor protejate de drepturi de autor utilizate pentru instruire.
Sprijinirea inovării și protejarea drepturilor cetățenilor
Pentru a stimula inovarea în domeniul IA, deputații europeni au adăugat scutiri la aceste reguli pentru activitățile de cercetare și componentele IA furnizate sub licențe open-source. Noua lege promovează mediile controlate de reglementare, stabilite de autoritățile publice pentru a testa IA înainte de implementarea acesteia.
Deputații europeni doresc să stimuleze dreptul cetățenilor de a depune plângeri cu privire la sistemele de inteligență artificială și de a primi explicații cu privire la deciziile bazate pe sisteme de inteligență artificială cu risc ridicat care au un impact semnificativ asupra drepturilor lor. Deputații au reformat, de asemenea, rolul Biroului UE pentru IA, care ar urma să fie însărcinat cu monitorizarea modului în care este implementat manualul de reguli privind IA.
