Cadru legislativ pentru folosirea Inteligenţei Artificiale, stabilit de comisiile din cadrul UE

Inteligenţa Artificială, termenul umbrelă sub care s-au dezvoltat aceste tehnologii, are cadrul sub care va putea să acționeze. După ce mai multe state europene au blocat accesul la aplicații generative de conținut, cum a fost cazul ChatGPT, mult apreciată de elevi și studenți pentru redactarea lucrărilor, dar și în contextul exploziei dezinformării bazate pe manipularea știrilor sau a deep fake-urilor, care transmit mesaje prin falsificarea conținutului video și audio, actul legislativ, aprobat cu o largă majoritate de eurodeputații din Comisia pentru Piața Internă și Protecția Consumatorilor și de cei din Comisia pentru Libertăți Civile, vine să umple un gol legislativ cu un grad ridicat de periculozitate.

Principala inovație, așa cum scrie în declarația emisă de cele două comisii după vot, este introducerea abordării bazate pe risc și a stabilirii de obligații pentru furnizori și utilizatori în funcție de nivelurile de risc pe care aplicațiile de inteligență artificiale le pot genera.

Sistemele care introduc un nivel inacceptabil de risc pentru siguranța oamenilor, sănătatea, drepturile lor fundamentale sau pentru mediu sunt strict interzise. La fel, nu sunt permise nici softurile care dezvoltă tehnici subliminale sau manipulative intenționate ori exploatează vulnerabilitățile oamenilor sau sunt utilizate pentru așa-numitul scoring social, clasificarea persoanelor în funcție de comportamentul lor social, de statut socio-economic ori de caracteristicile personale.

Unul din cei doi co-raportori ai legii, eurodeputatul socialist, italianul Brando Benifei.

"Considerăm că abordarea noastră este cea mai bună pentru a-i proteja pe cetățeni, pentru a crea încredere și a permite ca această tehnologie să fie dezvoltată și sprijinită și ca noi businessuri să înflorească pe baza încrederii și sprijinului oamenilor. Pentru că trăim în democrații, iar tehnologiile trebuie să fie aduse în arena democratică și supuse, în consecință, unor reguli. Am încercat să o facem cât mai bine, concentrându-ne în special pe riscurile ridicate care există și încercând să le controlăm cu instrumentele pe care le-am conceput", a spus Brando Benifei.

Deputații europeni au convenit să interzică utilizarea recunoașterii faciale în spațiile publice, indiferent că e vorba de centrele orașelor sau de emigranții aflați la granițe. Nici instrumentele de poliție predictivă, populare între eforturile țărilor de a reduce criminalitatea, nu vor fi permise, iar aplicațiilor generative de inteligență artificială li se impun noi măsuri de transparență. Celălalt raportor al legii, eurodeputatul Renew Dragoș Tudorache.

"Companiile își vor antrena algoritmii la fel ca și până acum. Diferența este că ei îi antrenau fără ca restul lumii să aibă vreo idee pentru ce o făceau. Noi nu aveam nicio informație despre ce material folosesc, ce articole din reviste științifice foloseau ca să îmi dea acel răspuns frumos la cine știe ce întrebare de știință. Nu știm cât de mult folosesc din cântecele solistului Drag pentru a compune o piesă care sună ca Drag. Ce vreau să spun e că ei sunt acum obligați să discute și să fie transparenți. Așa că deschidem posibilitatea pentru deținătorul drepturilor de autor să meargă și să ceară compensații dacă consideră că prin utilizarea produselor lor inteligența artificială nu a devenit doar mai inteligentă, dar prin replicare a încălcat drepturile deținătorilor legali, iar aceștia pot să-i tragă la răspundere", a explicat Dragoș Tudorache.

Legea inițiată de Comisia Europeană urmează să fie adusă cu noile modificări în fața plenului Parlamentului European în sesiunea din iunie și apoi negociată cu Consiliul Uniunii, care reprezintă țările membre.

Ambii raportori au insistat că cel mai important domeniu la care eurodeputații nu vor ceda este respectarea drepturilor omului, a democrației sau a domniei legii, elementele fundamentale ale Uniunii Europene.

Momentul este perceput ca unul de cotitură în interacțiunea om - mașină, dar și pentru prezervarea stilului de viață european, insistă eurodeputatul Brando Benifei.

"Suntem pe punctul de a lua o decizie privind o legislație foarte importantă pentru viitor. Încercăm să construim un cadru care să poată rezista schimbărilor care se vor produce, dar îndeajuns de flexibil să se poată adapta. Creșterea încrederii cetățenilor în dezvoltarea inteligenței artificiale va fi crucială pentru a ne confrunta într-o manieră europeană cu aceste schimbări care deja se petrec", a declarat Brando Benifei.

Într-o primă reacție preponderent favorabilă, Amnesty International salută eforturile de transparentizare a inteligenței artificiale și mai ales interzicerea sistemelor de identificare biometrică la distanță sau a celor care pretind că prezic criminalitatea. Organizația condamnă însă faptul că legea lasă la latitudinea fabricanților să decidă nivelul de pericol pentru oameni al produselor lor, ceea ce ar putea să transforme demersul într-un simplu ghid de bune practici.