UPDATE: Parlamentul European a adoptat primele reguli referitoare la Inteligența Artificială

Parlamentul European a adoptat săptamâna aceasta, în premieră la nivel mondial, primul set de reglementări privind Inteligența Artificială ce ca scop protejarea drepturilor fundamentale, promovarea democrației, consolidarea statului de drept și menținerea sustenabilității mediului în fața sistemelor de inteligență artificială cu un grad ridicat de risc.

Prin acest regulament, Parlamentului European introduce primele interdicții în ceea ce privește inteligența artificială, cu referire directă la supravegherea biometrică, precum și la recunoașterea emoțiilor (în perspectiva evitării unor acțiuni care să aibă efect manipulator).

De asemenea, documentul introduce stipularea clară a dreptului de a face plângeri cu privire la sistemele AI, toate acestea având ca fundament intenția ca dezvoltarea AI în Europa să fie centrată pe oameni și conformă unei etici neechivoce, urmând reguli clare de transparență și gestionare a riscurilor.

În vederea atingerii acestor deziderate, un prim pas considerat important este acela al definirii noțiunii de AI, care trebuie să fie neutră din punct de vedere tehnologic, astfel încât această definiție să fie valabilă atât în prezent, cât și în viitor. 

AI - Riscuri și interdicții

Regulile adoptate stabilesc norme atât pentru furnizori, cât și pentru utilizatorii de AI, urmând ca sistemele care vor fi identificate ca având un nivel ridicat de risc să fie interzise (cu referire la cele care folosesc tehnici subliminale sau manipulatoare, ori care exploatează vulnerabilitățile oamenilor).

Europarlamentarii au ținut să definească clar noțiunea de „risc ridicat”, incluzând orice situație care ar duce la vătămarea sănătății, siguranței, drepturilor fundamentale ale omului sau la afectarea mediului. O zonă de concentrare a reglementărilor europene va fi cu privire la interzicerea folosirii inteligenței atificiale cu scopul de a influența campaniile electorale.

Noile reguli impun restricții asupra anumitor utilizări ale inteligenței artificiale care pun în pericol drepturile cetățenilor, incluzând sistemele biometrice de clasificare fundamentate pe caracteristici sensibile ale indivizilor.

Interdicțiile se extind și asupra recunoașterii emoțiilor în mediul de muncă și în instituțiile de învățământ, a atribuirii unui scor social, a sistemelor de poliție predictivă bazate exclusiv pe profilarea individului sau pe analiza trăsăturilor sale, precum și a utilizării inteligenței artificiale pentru manipularea comportamentului uman sau exploatarea vulnerabilităților individuale.

De asemenea, se interzice extragerea nejustificată a imaginilor faciale de pe internet sau din înregistrările camerelor de supraveghere pentru a constitui baze de date destinate recunoașterii faciale.

Deși utilizarea sistemelor de identificare biometrică de către autoritățile de aplicare a legii este interzisă, există excepția unor circumstanțe precis enumerate și strict definite.

Astfel, instalarea sistemelor de identificare biometrică "în timp real" este permisă doar sub condiția respectării unor garanții stricte, cum ar fi limitarea utilizării lor în timp și spațiu și obținerea aprobării prealabile de către o autoritate judiciară sau un organ administrativ.

Aceste sisteme pot fi utilizate, de exemplu, pentru căutarea unei persoane dispărute sau pentru prevenirea unui atac terorist. Utilizarea acestor sisteme în mod retroactiv (cunoscută și sub denumirea de sisteme de identificare biometrică "ulterioară") este considerată o acțiune cu un nivel ridicat de risc și este permisă doar cu emiterea unei autorizații judiciare legată de o infracțiune penală.

Etapele următoare

Regulamentul este încă supus unei verificări finale de către lingviștii juridici și se așteaptă să fie adoptat în mod definitiv înainte de sfârșitul legislaturii. Legea trebuie, de asemenea, să fie oficial aprobată de Consiliu.

”Artificial Inteligence Act” va intra în vigoare după douăzeci de zile de la publicarea sa în Jurnalul Oficial al Uniunii și va fi pe deplin aplicabil după 24 de luni de la intrarea în vigoare, cu unele excepții:

• Interdicțiile privind practicile interzise, care vor fi aplicabile după șase luni de la data intrării în vigoare;
• Codurile de practică (nouă luni de la intrarea în vigoare);
• Regulile privind inteligența artificială de uz general, inclusiv guvernanța (douăsprezece luni de la intrarea în vigoare);
• Obligațiile pentru sistemele cu risc ridicat (treizeci și șase de luni).

Co-raportorul Dragoș Tudorache, unul dintre cei doi inițiatori ai demersului, a declarat: ”Este prima piesă de legislație de acest fel la nivel mondial, ceea ce înseamnă că UE poate conduce în a face AI centrată pe om, de încredere și sigură. Am lucrat pentru a sprijini inovația AI în Europa și pentru a oferi start-up-urilor, IMM-urilor și industriei spațiu pentru a crește și a inova, în timp ce protejăm drepturile fundamentale, consolidăm supravegherea democratică și asigurăm un sistem matur de guvernanță și aplicare a AI.”