Reglementări europene în materie de AI și impactul acestora pentru antreprenori

Inteligența artificială (IA) a început să transforme lumea noastră în moduri fără precedent. De la asistență medicală personalizată la mașini cu conducere autonomă și asistenți virtuali, IA devine omniprezentă în viața noastră de zi cu zi. Cu toate acestea, rata accelerării rapide de care a dat dovadă IA, a ridicat multe semne de întrebare cu privire la efectele pe care aceasta le poate avea asupra omenirii, atrăgând în special atenția legiuitorilor europeni, astfel Uniunea Europeană a trecut la reglementarea IA prin ceea ce va urma să se numească “The Artificial Intelligence Act (AI Act)“. Următoarea întrebare care ar trebui să ne intereseze este care vor fi principalii actori afectați de aceasta reglementare și în ce măsura. Răspunsul ar fi că antreprenorii care folosesc sisteme IA, dar și cei care le fabrică vor fi cei mai vizați de această reglementare.

Legea AI a stabilit un set de definiții clare pentru diferiții actori implicați în IA: furnizori, importatori, distribuitori și producători de produse. Aceasta înseamnă că toate părțile implicate în dezvoltarea, utilizarea, importul, distribuția sau fabricarea modelelor AI vor fi trase la răspundere. Mai mult, Legea AI se aplică și furnizorilor și utilizatorilor de sisteme AI situate în afara UE, de exemplu, în Spațiul Economic European (SEE), dacă rezultatul produs de sistem este destinat să fie utilizat în UE.

Antreprenorii care se regăsesc printre cei enumerați mai sus, ar trebui să se pregătească prin alcătuirea unui registru care să cuprindă toate sistemele IA pe care aceștia le folosesc sau pe care le au în curs de dezvoltare. Acestea ar trebui evaluate și clasificate în funcție de riscul pe care folosirea sau pur și simplu dezvoltarea acestor sisteme îl implică. Legea AI reglementează 4 categorii de riscuri și anume:

  • Risc inacceptabil – modelele IA care ar fi cuprinse în această categorie sunt interzise. Un exemplu de astfel de sistem ar fi utilizarea identificării biometrice de la distanță în timp real în spațiile publice.
  • Risc ridicat – aceste sisteme IA sunt permise de către legiuitorul european, însă trebuie să respecte o serie de cerințe stricte și trebuie supuse unei evaluări a conformității, evaluare care trebuie efectuată înainte ca sistemul să fie scos pe piață. Operarea modelelor de IA cu risc ridicat necesită un sistem adecvat de management al riscului, capabilități de înregistrare și supraveghere umană. Sisteme care ar fi incluse în această categorie sunt sistemele utilizate în procesele de angajare sau evaluarea angajaților, sistemele de procesare automată a daunelor de asigurare, etc. De asemenea, este important de menționat că toate aceste sisteme trebuie înregistrate într-o bază de date europeană care urmează să fie implementată de către Uniune.
  • Ultimele două modele sunt cele cu risc limitat și cele considerate fără risc. În cazul acestor sisteme IA, Uniunea impune un minim al transparenței, adică utilizatorul sistemului trebuie informat că sistemul cu care interacționează este unul generat de IA. În această categorie ar fi încadrate des întâlnitele “deepfake-uri” sau “chat-boții”.

În concluzie, legea europeană care urmează să reglementeze sistemele IA, abordează multe dintre problemele semnalate de către specialiști și societate, însă unele nu sunt abordate cu seriozitatea solicitată cum ar fi încadrarea deepfake-urilor ca modele de risc limitat sau fără risc, ignorând faptul că acestea au creat o multitudine de probleme în spațiul public. Cu toate acestea, așteptăm cu entuziasm această reglementare pentru a putea observa impactul, sperăm noi, benefic, nu doar asupra utilizatorilor cât și asupra antreprenorilor care folosesc astfel de sisteme și care prin aceste reglementări beneficiază de o recunoaștere oficială și din partea autorităților a soluțiilor IA dezvoltate, nemaifiind într-o zona gri de funcționare.  

Citește mai multe informații AICI.

Picture of Paul Milos - Consilier Juridic

Paul Milos - Consilier Juridic

Aveți întrebări?

Ultimele noutăți

Realitatea socială pe care o experimentăm în plină expansiune tehnologică, ne demonstrează că mediul digital

Într-o societate democratică, transparența și accesul la informații de interes public sunt esențiale pentru asigurarea

În era tehnologiei avansate, unde inteligența artificială și învățarea automată continuă să facă progrese semnificative,