Regulamentul privind inteligența artificială are ca scop promovarea unei inteligențe artificiale de încredere și centrate pe factorul uman, cu asigurarea, în același timp, a unui nivel ridicat de protecție a sănătății, siguranței și drepturilor fundamentale, inclusiv a democrației, a statului de drept și a protecției mediului.
Regulamentul stabilește un cadru de reglementare bazat pe nivelul de risc asociat sistemelor de inteligență artificială, fiind vizate patru niveluri de risc: inacceptabil, ridicat, limitat și minim sau fără risc.
Pentru fiecare categorie de riscuri sunt prevăzute cerințe specifice care privesc fie doar transparența, fie și alte obligații impuse în sarcina operatorilor, în funcție de nivelul de risc pe care sistemele de IA îl pot prezenta.
Având în vedere riscurile pe care le presupun, anumite sisteme de IA sunt interzise de Regulament.
Risc inacceptabil
Anumite sisteme de IA pot avea efecte nocive și pot fi deosebit de abuzive întrucât contravin demnității umane, libertății, egalității, democrației, statului de drept sau drepturilor și libertăților fundamentale consacrate în Carta drepturilor fundamentale a Uniunii Europene, motiv pentru care sunt interzise.
Conform articolului 5 din Regulamentul privind inteligența artificială, astfel cum a fost modificat prin Regulamentul Omnibus în domeniul digital privind IA, sunt interzise, începând cu 2 februarie 2025:
- sisteme de IA care folosesc tehnici subliminale sau manipulatoare pentru a distorsiona semnificativ comportamentul unei persoane sau al unui grup de persoane (manipulare sau înșelăciune dăunătoare);
- sisteme de IA care profită de vârstă, dizabilități sau situație socioeconomică specifică pentru a denatura în mod semnificativ comportamentul (exploatarea vulnerabilităților);
- sisteme de IA care evaluează sau clasifică persoanele pe baza comportamentului social (scor social);
- sisteme de IA care evaluează sau anticipează riscurile legate de infracțiunile individuale;
- sisteme de IA care creează sau extind baze de date de recunoaștere facială fără scop precis;
- sisteme de IA care deduc emoții în școli sau la locul de muncă (cu excepții legate de siguranță sau medicale);
- sisteme de IA de clasificare biometrică pentru a deduce anumite date sensibile;
- sisteme de IA de identificare biometrică la distanță în timp real în scopul asigurării respectării legii în spațiile accesibile publicului, cu unele excepții.
Următoarele două tipuri de sisteme de IA, introduse în lista interdicțiilor prin Regulamentul Omnibus în domeniul IA, sunt interzise începând cu 2 decembrie 2026:
- sisteme de IA care generează sau modifică imagini sau materiale video sau audio realiste cu părțile intime ale unei persoane fizice identificabile, fără consimțământul persoanei reprezentate;
- sisteme de IA care generează sau modifică materiale care constituie materiale de pornografie infantilă sau spectacole de pornografie infantilă.
Comisia a publicat două documente, destinate atât furnizorilor, cât și autorităților, relevante pentru sistemele de IA interzise:
Risc ridicat
Furnizorii de sisteme de IA cu grad ridicat de risc, indicate la articolul 6 alineatele (1) și (2) și în Anexele I și III la Regulament, trebuie să se asigure că sistemele respective respectă o serie de cerințe obligatorii.
Cerințele obligatorii asigură faptul că sistemele de IA cu grad ridicat de risc disponibile în Uniune sau ale căror rezultate sunt utilizate în Uniune nu prezintă riscuri inacceptabile pentru utilizatori, în special din perspectiva riscurilor pentru sănătate, siguranță sau drepturile fundamentale.
Risc limitat
Riscul prezentat de anumite sisteme de IA poate fi minimizat prin transparență, conform articolului 50 din Regulament. Furnizorii și implementatorii unor astfel de sisteme de IA (inclusiv de sisteme de IA de uz general, mai multe detalii despre aceste sisteme – aici ) sunt vizați de obligații de transparență, cum ar fi informarea persoanelor că interacționează cu un sistem de IA atunci când astfel de sisteme sunt proiectate să interacționeze direct cu persoanele fizice sau că un anumit conținut a fost generat în mod artificial. Mai multe detalii despre obligațiile de transparență regăsiți în pagina dedicată, aici.
Risc minim sau fără risc
Toate celelalte sisteme de IA sunt clasificate ca fiind sisteme cu risc minim sau fără risc. Acestea nu fac obiectul niciunei obligații în temeiul Regulamentului privind inteligența artificială.