Laureați ai Premiului Nobel, experți în inteligență artificială, oameni de știință, lideri religioși și foști șefi de stat și de guvern cer adoptarea unui tratat internațional care să limiteze integrarea IA în sistemele de comandă, control și lansare a armelor nucleare și să garanteze menținerea unui control uman efectiv asupra acestora.
Apelul este inclus în „Declarația de la Roma pentru o pace dezarmată și dezarmantă în era inteligenței artificiale, a armelor nucleare și autonome, a noilor protocoale digitale și a modelelor emergente de dezvoltare digitală”, semnată joi, 16 iulie, la Campidoglio, sediul Primăriei Romei.
Documentul a fost adoptat la încheierea Adunării Globale a Laureaților Premiului Nobel privind Inteligența Artificială și Războiul Nuclear, care a reunit peste 200 de participanți și reprezentanți ai unor importante instituții internaționale de cercetare. Reuniunea s-a desfășurat la Borgo Laudato si’, în grădinile pontificale de la Castel Gandolfo.
„Decizia finală de a folosi o armă nucleară nu trebuie niciodată încredințată unui sistem automatizat”, avertizează semnatarii, care solicită păstrarea permanentă a unui control uman „efectiv și semnificativ” asupra acestor sisteme.
Tratatul internațional propus ar trebui să interzică integrarea iresponsabilă a IA în infrastructura de comandă și lansare a armelor nucleare și să împiedice utilizarea răuvoitoare a tehnologiei în operațiuni cibernetice și în atacuri îndreptate împotriva infrastructurilor nucleare.
Solicitarea este formulată în contextul în care semnatarii consideră că intensificarea cursei înarmărilor nucleare este însoțită de o competiție la fel de periculoasă pentru dezvoltarea inteligenței artificiale. Cele două evoluții riscă să se alimenteze reciproc și să producă transformări economice, militare și sociale majore.
Declarația pornește de la avertismentul că omenirea traversează un moment decisiv și se confruntă cu „o provocare fără precedent”. Deși IA oferă oportunități considerabile, dezvoltarea sa rapidă ar putea provoca pierderea unui număr mare de locuri de muncă și ar putea intensifica rivalitatea economică dintre puterile nucleare.
În același timp, concentrarea tehnologiei în mâinile unui număr restrâns de state și de companii mari riscă să accentueze dezechilibrele de putere existente. În aceste condiții, semnatarii resping ideea că securitatea poate fi construită pe frică, amenințare și perspectiva distrugerii reciproce și susțin viziunea Papei Leon al XIV-lea privind urmărirea unei „păci dezarmate și dezarmante”.
Cele șase puncte ale documentului urmăresc oprirea viitoarelor curse ale înarmării în domeniul nuclear și al IA înainte ca acestea să modeleze următorul secol. În acest sens, dezvoltatorilor de sisteme de inteligență artificială li se cere să acționeze în interesul umanității și să respecte dreptul internațional și drepturile omului.
Totodată, guvernele și organizațiile internaționale sunt îndemnate să supravegheze procesele complet automatizate din cadrul sistemelor de IA și să construiască mecanisme care să permită utilizarea responsabilă a tehnologiei.
În viziunea semnatarilor, inteligența artificială ar trebui folosită pentru îmbunătățirea bunăstării oamenilor, accelerarea progresului științific și medical, protejarea mediului, creșterea rezilienței societăților și susținerea păcii și a dezvoltării durabile.
Pentru atingerea acestor obiective, Declarația de la Roma pledează pentru identificarea unor noi mecanisme instituționale de guvernanță globală a IA și sprijină Comisia științifică internațională independentă a ONU privind inteligența artificială.
Semnatarii propun și crearea unui „bun comun digital” care să faciliteze colectarea și partajarea datelor necesare pentru aprofundarea cunoștințelor și adoptarea unor măsuri eficiente privind riscurile asociate armelor nucleare și inteligenței artificiale. Inițiativa ar urma să contribuie la reducerea dezechilibrelor care îi afectează în special pe cei care nu au acces la tehnologiile respective și nici posibilitatea de a controla modul în care acestea sunt folosite.
Apelul privind reglementarea IA este însoțit de solicitarea reluării urgente a negocierilor pentru eliminarea verificabilă și ireversibilă a armelor nucleare. Documentul reafirmă angajamentele asumate prin Tratatul de neproliferare a armelor nucleare și Tratatul privind interzicerea armelor nucleare și le cere statelor să oprească actuala cursă a înarmării.
Statele care dețin arme nucleare sunt îndemnate să adopte politici care să reducă progresiv rolul acestor arme, să consolideze stabilitatea strategică și să diminueze riscul utilizării lor și al declanșării unui conflict cu urmări catastrofale.
„Este în joc supraviețuirea noastră și a generațiilor viitoare”, avertizează semnatarii în încheierea Declarației de la Roma.
