Companiile vor trebui să își informeze clienții că interacționează cu AI. La fel, conținutul creat cu AI trebuie marcat ca atare

Potrivit Regulamentului UE 2024/1689, începând cu 2 august 2025, utilizarea sistemelor AI cu risc ridicat și cele cu risc de transparență va fi interzisă în anumite domenii considerate „sensibile”. Dacă recent am discutat sistemele AI cu risc ridicat, în acest articol ne vom concentra asupra celor cu risc de transparență și asupra obligațiilor care le revin furnizorilor și utilizatorilor acestora.

„Sistemele AI cu risc de transparență sunt acelea al căror impact este vizibil în viața noastră cotidiană și care, dacă nu suntem atenți, ar putea părea ca fiind rezultatul unei interacțiuni cu o persoană, nu cu un sistem AI. Acestea includ imagini sau videoclipuri generate cu AI, sisteme care analizează emoțiile oamenilor sau care interacționează verbal cu utilizatorii, cum ar fi chatboții (..) Un astfel de sistem ar putea fi un chatbot utilizat pentru a oferi suport clienților unui comerciant. În acest caz, furnizorul sistemului AI (compania care a creat chatbotul) trebuie să asigure faptul că utilizatorul este conștient că interacționează cu un sistem automat și nu cu un operator uman”, a explicat Alin Popescu, fondator avocatnet.ro.

Concret, printre exemplele de sisteme AI care vor trebui să respecte aceste reglementări se numără:

• sisteme AI de interacțiune directă cu utilizatorii – Companiile trebuie să informeze utilizatorii că interacționează cu un AI, nu cu un om.
• sisteme AI de generare de conținut sintetic – Conținutul generat de AI trebuie marcat clar ca atare.
• sisteme AI de recunoaștere a emoțiilor – Companiile trebuie să informeze utilizatorii că sunt supuși unei analize a emoțiilor prin AI.
• sisteme AI de categorizare biometrică – Similar, utilizatorii trebuie informați despre utilizarea tehnologiei de recunoaștere biometrică.
• sisteme AI de generare a conținutului „deep fake” – Acestea trebuie marcate explicit ca fiind create de AI.

Un alt exemplu oferit de specialistă se referă la sistemele AI pentru analiza emoțiilor clienților (Emotion Recognition). Să ne imaginăm o companie ar putea folosi un astfel de sistem pentru a analiza tonul vocii sau expresiile faciale ale clienților în timpul interacțiunilor telefonice sau video, pentru a evalua nivelul de satisfacție sau alte emoții, cu scopul de a îmbunătăți serviciile. În acest caz, compania trebuie să informeze clienții că datele lor sunt analizate de un sistem AI și că prelucrarea acestora se face conform reglementărilor GDPR.

Atenție! Regulamentul impune companiilor care utilizează AI (indiferent dacă este de risc ridicat sau nu) să asigure transparența și să informeze persoanele care interacționează cu aceste sisteme despre utilizarea tehnologiilor de inteligență artificială.

Astfel, toate companiile care folosesc sisteme AI ce interacționează direct cu utilizatorii (AI cu risc de transparență) vor fi obligate să îi informeze pe aceștia că interacționează cu un sistem AI, nu cu o persoană reală. 

Citește și: UE a interzis o serie de practici în domeniul AI. Noi obligații pentru companii (începând cu februarie 2025)

Reamintim că începând cu 2 august 2025, Capitolul V din regulament va intra în vigoare, impunând furnizorilor de modele AI de uz general să respecte reglementări specifice.

În plus, tot de atunci, vor intra în aplicare sancțiunile pentru nerespectarea obligațiilor impuse de Regulament, precum și normele referitoare la autoritățile de reglementare. În cazul în care autoritățile publice nu respectă interdicțiile, acestea pot fi sancționate cu amenzi de până la 1.500.000 de euro. Pentru celelalte entități, amenzile pot ajunge până la 35.000.000 de euro sau 7% din cifra de afaceri anuală mondială totală.