Cu dezvoltarea rapidă a inteligenței artificiale (AI), factorii de decizie politică au întâmpinat dificultăți în a ține pasul cu inovațiile tehnologice. Totuși, Uniunea Europeană (UE) a fost rapidă în reacții, adoptând în august un set de reglementări cuprinzătoare privind utilizarea acestei tehnologii, devenind primul cadru legal global în domeniu.
Noile reguli clasifică sistemele AI în funcție de capacitatea lor de a provoca daune societății — cu cât riscul este mai mare, cu atât reglementările devin mai stricte, unele sisteme urmând să fie interzise complet în UE până în februarie 2025. Companiile care nu respectă aceste reglementări vor fi sancționate cu amenzi semnificative.
După cum a spus europarlamentarul Brando Benifei, unul dintre cei care au contribuit la formarea AI Act: „În timp ce marile companii de tehnologie trag semnale de alarmă asupra propriilor creații, Europa a propus o soluție concretă pentru riscurile pe care AI începe să le prezinte.”
Cu toate acestea, în graba de a instala măsuri de protecție și în timpul negocierilor dificile cu guvernele și marile companii tehnologice, au fost făcute excepții pentru unele dintre cele mai controversate utilizări ale AI de către autoritățile de poliție și de frontieră, inclusiv recunoașterea facială și analiza emoțiilor.
Impactul:
Pe măsură ce retorica politică privind imigrația devine tot mai dură în întreaga Europă, continentul investește miliarde în gestionarea frontierelor, apelând din ce în ce mai mult la tehnologii noi pentru a spori securitatea, de la turnuri de supraveghere cu AI și teste de detectare a minciunilor până la algoritmi care pot prezice fluxurile de migrație.
Cu toate acestea, activiștii susțin că excepțiile permise de AI Act la granițele Europei ar putea duce la o supraveghere ilegală, discriminare și chiar la incriminarea persoanelor aflate în mișcare. „În loc să se creeze soluții pentru a proteja persoanele vulnerabile, se fac politici care încurajează suspiciunea”, spune Caterina Rodelli, analistă de politici la Access Now, o organizație pentru drepturi digitale.
„Există o tendință în Europa de a se baza pe tehnologie pentru a merge cât mai repede”, a declarat Romain Lanneau, cercetător juridic la organizația pentru drepturile omului Statewatch.
Pe măsură ce UE accelerează procesul de respingere și deportare a solicitanților de azil nereușiți, activiștii avertizează că uneltele AI ar putea crește riscul pentru persoanele vulnerabile, algoritmii amplificând părtiniri existente și respingând cereri pe baza unor criterii discutabile.
Mai mult, activiștii sunt îngrijorați de utilizarea algoritmilor care prezic fluxurile de migrație și care pot facilita returnările forțate și ilegale de la frontiere. Un raport al MSF din 2023 descria violențele fizice la care au fost supuși solicitanții de azil în Grecia, inclusiv bătăi, încătușări și confiscări de bunuri.
Critici și provocări viitoare:
O altă critică majoră este faptul că noile reguli nu împiedică companiile din UE să dezvolte sisteme AI nocive pentru export, fără a ține cont de modul în care tehnologia ar putea contribui la abuzuri în alte părți ale lumii. „Dacă Europa vrea să stabilească standarde globale bazate pe drepturile omului, acest mesaj nu este cel mai potrivit”, a spus Mher Hakobyan, consilier la Amnesty Tech.
Deși grupurile pentru drepturi consideră AI Act o oportunitate ratată pentru a proteja toate persoanele de riscurile AI, acestea afirmă că lupta lor nu s-a încheiat. „Așteptăm procese”, spune Lanneau. În 2021, Olanda a fost afectată de un scandal în care un algoritm a dus la acuzarea greșită a unor părinți, majoritatea din minorități etnice, de fraudă în beneficiile sociale. În aprilie, guvernul grec a fost amendat pentru utilizarea ilegală a AI în supravegherea taberelor de refugiați.
Campaniștii susțin că procesele legale și reacțiile publicului ar putea fi cheia pentru a închide lacunele în ceea ce privește drepturile omului în utilizarea AI.
Comentariul va fi postat dupa aprobare