de Dragoș Tudorache, europarlamentar USR PLUS & Renew Europe, președintele Comisiei speciale pentru inteligența artificială în era digitală

Articolul de opinie a fost publicat inițial în limba engleză pe platforma ourworld.co.

Odată cu venirea Ursulei von der Leyen și a „Comisiei geopolitice“ axate pe dublele priorități strategice – transformarea digitală și pactul verde – bula bruxeleză a început să dezbată continuu pe tema inteligenței artificiale și a impactului acesteia asupra omenirii.

Orice tehnologie nouă, de la motorul cu aburi încoace și cu mult înainte, a modelat societatea. În secolele XVIII și XIX, revoluția industrială a transformat fundamental modul în care am făcut lucrurile, fără prea multe preocupări legate de consecințele sistemice. Anul 2021 ne-a gpsit mult mai bine pregătiți. Avem datoria de a ghida mai bine evoluția societății în loc să construim viitorul acesteia din inerție sau dependenți fiind de alegerile din trecut. Avem o oportunitate uriașă de a pune baze solide pentru dezvoltarea inteligenței artificiale (IA) și de a o folosi pentru a construi societatea de mâine într-un mod conștiincios. Pentru asta, trebuie să facem alegerile corecte acum și să deschidem căi pentru a lua decizii corecte și în viitor.

Ceea ce simt că lipsește din dezbaterile de la Bruxelles, și din alte părți ale lumii, este o viziune de avangardă pentru inteligența artificială – o viziune care ne proiecteză cu câteva decenii în viitor și ne dă o direcție clară. Fără a nega importanța conversațiilor despre inteligența artificială care sunt pe ordinea de zi, trebuie să începem să ne punem întrebări despre ziua de mâine. „De ce“ și „cum“ ar trebui să fie întrebări din prezent la care să găsim răspunsuri pentru viitor. Trebuie să începem să ne pregătim să facem față cu succes transformărilor sistemice pe care IA le va aduce în societățile noastre, inclusiv în modul în care funcționează statul și instituțiile sale. Aceasta este o conversație globală; Uniunea Europeană poate oferi leadership global în planificarea transformării statului odată cu revoluția AI și, astfel, poate deveni cu adevărat o superputere geopolitică, așa cum are în plan.

Premisa mea este simplă: statul modern, așa cum a fost modelat după Pacea de la Westfalia, riscă să devină cea mai neajutorată și, probabil, următoarea victimă a inteligenței artificiale. Cu o birocrație și o administrație lente, învechite, adesea ineficiente, statul nu are decât un singur avantaj față de toate celelalte structuri care stau la baza organizării activității umane: dimensiunea și monopolul său asupra furnizării de securitate și servicii sociale, precum și crearea și implementarea de reguli pentru funcționarea societății și a economiei. Dar monopolul său asupra puterii, care i-a permis să reziste șocurilor masive de-a lungul istoriei (de la războaie până la creșterea pe scară largă a tehnologiilor disruptive), poate face ca lucrurile să se înrăutățească considerabil atunci când vorbim de AI – nu numai în UE, ci și oriunde în lume.

Inteligența artificială, dincolo de oportunitățile pe care le va oferi omenirii, aduce cu sine și mijloacele pentru dispariția sau pervertirea statului. Iar structurile suprastatale, cum este de exemplu UE, sunt doar puțin mai protejate de amenințările directe cu care se confruntă statele. Însă pericolul este de aceeași natură.

O amenințare din partea mecanismelor de piață

Prima amenințare la adresa existenței statului vine din partea forțelor pieței – o provocare a viabilității sale economice. Pe măsură ce datele încep să se deplaseze în mod (aproape) liber în mâinile companiilor private și pe măsură ce algoritmii de IA se dezvoltă și se îmbunătățesc în fiecare sector imaginabil al economiei, concurența în livrarea – deja ineficientă din partea statului – a serviciilor de bază este în creștere. Când serviciile de sănătate privată, îmbunătățite de IA, vor deveni mai ieftine și mai eficiente decât asistența medicală acordată de stat, cum își va justifica statul cheltuielile pentru sănătate? Când educația privată bazată pe IA – personalizată, de ultima generație, bazată pe date, pregătită pentru era digitală – va deveni normă, cum va concura statul? Când, în cele din urmă, securitatea privată asistată de AI îi va face pe cetățeni să se simță în siguranță și protejați, cum își va justifica statul existența? Când toate serviciile pe care le oferă statul vor fi furnizate mai bine de un sector privat alimentat de AI, ce îi va oferi statului autoritatea de a elabora și aplica legile și regulile de funcționare a societății? Și când companiile private vor începe să reinventeze regulile și să ofere sisteme alternative de „guvernare“ a comportamentului care devin mai importante pentru cetățeni decât regulile statului, cum își va menține statul monopolul privind arbitrarea în societate și asigurarea justiției?

Înainte de apariția inteligenței artificiale și a economiei datelor, cetățenii au încredințat statului competențe exclusive, pentru că statul era singura instituție suficient de mare pentru a furniza anumite servicii. Statul a fost singura instituție suficient de mare pentru a colecta taxe, a fost singura instituție suficient de mare pentru a administra monopoluri naturale și singura instituție suficient de mare pentru a menține o armată care să poată combate armatele altor state.

Apar însă datele: noul combustibil, poate chiar viitoare monedă a economiei digitale. Și pe aceste date, în special din cauza vulnerabilității statului la pervertire atunci când colectează date sau dezvoltă IA, sectorul privat are un cvasi-monopol. Rolurile s-au inversat: companiile private sunt acum din ce în ce mai eficiente în furnizarea a ceea ce statului i s-a încredințat în mod istoric să furnizeze. Și, cu toate că nu există încă o companie care să concureze cu un stat modern (și chiar dacă statul încă deține un monopol încredințat de către cetățeni pentru a elabora și aplica norme), avântul în această direcție este deja o realitate. În măsura în care din ce în ce mai mult activitatea umană a devenit dependentă de date și alimentată de acestea, cum poate statul să se adapteze astfel încât să poată concura și supraviețui?

Pericolul pervertirii interne

A doua amenințare pe care IA o aduce existenței statului vine din direcția opusă: oferă instrumentele prin care statul poate să dobândească o putere incredibilă aupra cetățenilor săi. Cu cât statul colectează, stochează și procesează date din ce în ce mai sofisticate și detaliate despre cetățenii săi cu ajutorul algoritmilor de IA tot mai sofisticați, cu atât cadrul instituțional care asigură funcționarea democratică – și nu doar democratică – a statului devine tot mai instabil. Progrese importante într-un domeniu de competență a statului – cum ar fi de exemplu capacitatea de a prezice eventualul comportament infracțional al fiecărui cetățean sau, invers, de a identifica și recompensa comportamentul cetățenilor care respectă legea – schimbă echilibrul de putere instituțional și modifică parametrii competiției de putere între instituțiile statului. Alocarea resurselor între instituții se mută treptat către instituții care sunt mai eficiente în asigurarea bunăstării cetățenilor și se transformă, în timp, într-o mașinărie gigantică de control al populației, ce „optimizează“ în mod continuu și intrusiv viața cetățenilor săi. Acesta este doar un scenariu care nici măcar nu are nevoie de un stat totalitar pentru a deveni realitate. Nici statul – sau liderii săi – nu trebuie să aleagă în mod conștient „să controleze“ oamenii. Odată ce statul e în măsură să profileze fiecare „client” al său – din punct de vedere coportamental, psihologic, politic și într-o mulțime de alte moduri – nu va mai fi cale de întoarcere. Tehnologia o permite, pentru prima dată în istoria omenirii. Și statul este, de altfel, istoric, gardianul implicit al datelor cu caracter personal ale cetățenilor săi. Deci, tentația e mare.

Până în 2030, UE trebuie să definească un nou set de reguli, potrivit erei digitale, după care statul trebuie să joace în tratarea datelor cetățenilor și în implementarea IA. Bruxelles-ul e, pe bună dreptate, îngrijorat cu privire la aplicarea tehnlogiei de recunoaștere facială, a sistemelor predictive în aplicarea legii, a sistemelor de notare (ranking) socială și a altor tehnologii periculoase care ar putea fi utilizate în mod abuziv de către autoritățile publice, mai ales atunci când sunt combinate cu prejudecăți și cu o doză de discriminare. Însă drumul către Big Brother nu e neapărat o linie dreaptă. Trebuie să ne gândim bine și să anticipăm eventualele rezultate negative care pot apărea din utilizarea datelor cu caracter personal ale cetățenilor și punerea în mâinile autorităților de stat a unor algoritmi de IA puternici, chiar și pentru cele mai benigne utilizări. Pentru aceasta, statul însuși trebuie transformat, astfel încât să fie rezistent la orice formă de coruptibilitate chiar și atunci când este dotat cu instrumente tehnologice periculoase. Trebuie să reinventăm sistemul de control și echilibru și să rescriem contractul social pentru era digitală astfel încât statul să supraviețuiască și să continue să își îndeplinească scopul.

Fake news și dezinformare

A treia provocare la adresa statului adusă de inteligența artificială vine din afară – atacul direct asupra adevărului, prin dezinformare și știri false amplificate de IA. Odată ce adevărul devine relativ și ușor de schimbat, ordinea socială se clatină și ea și statul este amenințat. Deși propagnada, dezinformarea, manipularea în masă și știrile false sunt vechi de când lumea, IA poate fi folosită pentru a amplifica aceste amenințări dincolo de ce am văzut până acum.

Aceasta este o provocare existențială, în primul rând, pentru sistemele democratice, pentru că democrația este alimentată de adevăr: cetățenii trebuie să știe adevărul pentru a vota, pentru a lua decizii, iar votul este elementul fundamental al sistemelor democratice. Statul democratic este în pericol de destrămare atunci când părti terțe (indiferent dacă vorbim despre alte state sau actori nestatali, internaționali sau autohtoni) pot influența rezultatul alegerilor prin instrumente puternice alimentate de IA. Nu suntem încă acolo, dar progresul nu este liniar: odată ce astfel de instrumente de manipulare în masă devin suficient de puternice încât să ajungă dincolo de orice control, eșecul statului democratic va fi brusc, nu treptat.

Ordineal socială este relevantă pentru stabilitatea tuturor societăților, nu doar a democrațiilor. Știrile false și dezinformarea alimentate de IA pot pune, de asemenea, în genunchi și state nedemocratice, inclusiv acele state care contruiesc și folosesc astfel de instrumente pentru a-și promova agenda internațională. Și, în viitor, statele autoritare ar putea fi chiar mai vulnerabile în fața acestei amenințări decât democrațiile. Pe măsură ce societățile democratice dezvoltă anticorpi pentru a face față unor astfel de atacuri directe asupra funcționării lor democratice, statele autoritare sunt mai predispuse să dezvolte instrumente de manipulare în masă interne pentru a-și controla cetățenii și pentru a le proiecta acestora o versiune preferată a realității. Dar atunci când dezinformarea bazată pe IA va fi accesibilă și actorilor mai mici, inclusiv disidenților interni, menținerea unei versiuni fabricate a adevărului și retușarea continuă a acestei versiuni vor deveni din ce în ce mai dificile.

Stabilitatea statului, democratic sau nu, depinde de adevăr sau, cel puțin, de stabilitatea „adevărului“ local. Progresul societății, inclusiv transformarea digitală, trebuie să fie alimentat de adevăr, deoarece progresul științific poate avea loc doar atunci când datele empirice rămân neschimbate. Iar ordinea internațională bazată pe reguli este alimentată de adevăr, deoarece regulile și deciziile în forurile internaționale se bazează pe fapte și pe adevăr. Instrumentele bazate pe IA care pot manipula populațiile pe scară largă și pot schimba adevărul pentru a influența rezultate la scară largă sunt o amenințare pentru toate statele și o amenințare pentru viitorul stabilității globale.

Transformarea statului pentru a face față provocărilor AI

Răspunsul la toate cele trei provocări – concurența din ce în ce mai acerbă ce vine din partea companiilor private în furnizarea de servicii fundamentale, vulnerabilitatea statului în fața pervertirii din interior în cazul utilizării eronate a tehnologiei și atacul asupra ordinii sociale prin instrumente de manipulare în masă bazate pe IA – stă în reinventarea statului în cea mai sigură și de încredere platformă digitala pentru cetățenii săi. Dar cum?

În primul rând, statul trebuie să fie primul actor din societate care oferă cetățenilor un mecanism sigur, de încredere și inalienabil pentru asigurarea proprietății asupra datelor personale, inclusiv în interacțiunea cu statul însuși. „Identitatea electronică europeană sigură“ a Comisiei, prefigurată de Ursula von der Leyen în discursul său privind starea Uniunii, este un pas în direcția corectă, dar are nevoie de mai multă amploare și ambiție. Privind către 2030, UE trebuie să ofere statelor sale și, prin urmare, cetățenilor săi, o soluție nu doar pentru proprietatea și utilizarea datelor personale, ci și pentru „monetizarea“ acestora. Dacă oamenilor li se oferă un mecanism prin care să poată obține beneficii cuantificabile și garantate de către stat din datele lor (poate în aceeași măsură în care statul garantează moneda ca purtător de valoare economică), forțele pieței vor susține statul în concurența inegală cu sectorul privat. Companii de tipul Google și Amazon vor trebui să se adapteze expectativei tot mai mari de valorificare economică a datelor personale, iar statul va primi un nou rol în protejarea drepturilor cetățenilor sai.

În al doilea rând, statul trebuie să devină cel care definește standardele în modul în care sunt utilizate datele cu caracter personal. Pentru asta, statul trebuie să devină el însuși o platformă digitală agnostică, care nu stochează date și prin care cetățenii își folosesc, în deplină cunoștință de cauză și în complet control, datele pentru a accesa servicii sau pentru a obține beneficii economice. Statul trebuie să devină gardianul altruist și de încredere al datelor cetățenilor săi, la fel ca o bancă sau ca un seif. Regulile trebuie rescrise și funcționarea instituțiilor statului trebuie reechilibrată pentru a garanta cetățenilor inviolabilitatea datelor lor. Și, la fel cum statul plătește angajați pentru timpul și abilitățile lor prin angajări directe și licitații publice, tot așa ar trebui să dea tonul viitorului digital oferind cetățenilor valoare economică directă în acele situații în care dorește să folosească, temporar și pentru scopuri limitate și clar definite, datele personale ale cetățenilor.

În al treilea rând, statul trebuie să se dechidă pentru ca toată lumea să beneficieze – cetățeni și industrie – stabilind astfel atât standarde de transparență, cât și de informare. Prin deschiderea unui volum din ce în ce mai mare de date pe care le generează, statul poate accelera transformarea industrială bazată pe date, alimentând inovația și progresul. Permițând industriei să beneficieze de date publice și să creeze date împreună cu autoritățile publice, încurajând și facilitând partajarea și utilizarea comună a datelor industriale și bazându-se pe monopolul natural pe anumite tipuri de date pentru a stabili stardarde, statul poate alimenta dezvoltarea și poate deveni o platformă de încredere și pentru actorii economici, nu doar pentru cetățeni. Și oferind datele sale și acționând ca un actor neutru într-un ecosistem alimentat de date și informații, statul poate garanta, de asemenea, o versiune consecventă și empirică a „adevărului“ care este mult mai greu de subminat, sporind propria imunitate la dezinformare și atacuri de manipulare din exterior.

Având în vedere economiile la scară largă și cerințele de interoperabilitate pentru astfel de schimbări transformatoare în ADN-ul statului, Uniunea Europeană are un rol crucial de jucat la acest capitol. „Statul“ tradițional va deveni din ce în ce mai nesemnificativ într-o economie digitală în care datele circulă la o viteză incredibilă pe tot globul. Niciun stat nu poate gestiona de unul singur o astfel de transformare. Conform principiului subsidiarități, statele membre vor fi în cele din urmă responsabile pentru mai multe schimbări genetice pe care era digitală le cere pentru a le asigura supraviețuirea. Și Uniunea Europeana este în poziția perfectă de a oferi manualul de transformare. Până în 2030, trebuie să avem acest manual gata – și, odată cu acesta, un nou set de reguli pentru rolul Uniunii în transformarea digitală.