De la 2 februarie 2025, se aplică obligația privind alfabetizarea în domeniul inteligenței artificiale prevăzută la art. 4 din Regulamentul privind inteligența artificială (Regulamentul UE 2024/1689), modificat prin Regulamentul Omnibus în domeniul digital privind IA.
Obligația privind alfabetizarea în domeniul IA
art. 4 alin. (1) din Regulamentul IA: „Furnizorii și implementatorii de sisteme de IA iau măsuri pentru a sprijini dezvoltarea alfabetizării în domeniul IA a personalului lor și a altor persoane care se ocupă cu operarea și utilizarea sistemelor de IA în numele lor, ținând seama de cunoștințele tehnice, experiența, educația și formarea acestora și de contextul în care urmează să fie folosite sistemele de IA și luând în considerare persoanele sau grupurile de persoane în legătură cu care urmează să fie folosite sistemele de IA. Această obligație nu impune ca furnizorii sau implementatorii să garanteze un anumit nivel de cunoștințe în domeniul IA al vreunei persoane.”
Definiția alfabetizării în domeniul IA
art. 3 pct. (56) din Regulamentul IA: „competențele, cunoștințele și înțelegerea care le permit furnizorilor, implementatorilor și persoanelor afectate, ținând seama de drepturile și obligațiile lor respective în contextul Regulamentului IA, să implementeze sistemele de IA în cunoștință de cauză și să conștientizeze oportunitățile și riscurile pe care le implică IA, precum și prejudiciile pe care le pot aduce.”
Considerentul 20 din Regulamentul IA
„Pentru a obține beneficii cât mai mari de pe urma sistemelor de IA, protejând în același timp drepturile fundamentale, sănătatea și siguranța, și pentru a permite controlul democratic, alfabetizarea în domeniul IA ar trebui să le ofere furnizorilor, implementatorilor și persoanelor afectate noțiunile necesare pentru a lua decizii în cunoștință de cauză cu privire la sistemele de IA. Aceste noțiuni pot varia în funcție de contextul relevant și pot include înțelegerea aplicării corecte a elementelor tehnice în faza de dezvoltare a sistemului de IA, măsurile care trebuie aplicate în timpul utilizării sale, modalitățile adecvate de interpretare a rezultatelor sistemului de IA și, în cazul persoanelor afectate, cunoștințele necesare pentru a înțelege impactul pe care îl vor avea asupra lor deciziile luate cu ajutorul IA. În contextul aplicării prezentului regulament, alfabetizarea în domeniul IA ar trebui să ofere tuturor actorilor relevanți din lanțul valoric al IA informațiile necesare pentru a asigura conformitatea adecvată și aplicarea corectă a regulamentului. În plus, punerea în aplicare pe scară largă a măsurilor de alfabetizare în domeniul IA și introducerea unor acțiuni subsecvente adecvate ar putea contribui la îmbunătățirea condițiilor de muncă și, în cele din urmă, ar putea susține consolidarea unei IA de încredere și inovarea în acest domeniu în Uniune. Consiliul european pentru inteligența artificială (denumit în continuare „Consiliul IA”) ar trebui să sprijine Comisia pentru a promova instrumente de alfabetizare în domeniul IA, sensibilizarea publicului și înțelegerea beneficiilor, a riscurilor, a garanțiilor, a drepturilor și a obligațiilor care decurg din utilizarea sistemelor de IA. În cooperare cu părțile interesate relevante, Comisia și statele membre ar trebui să faciliteze elaborarea unor coduri de conduită voluntare pentru a promova alfabetizarea în domeniul IA în rândul persoanelor care se ocupă de dezvoltarea, exploatarea și utilizarea IA.”
Art. 4 din Regulamentul IA consolidează prevederile privind transparența față de implementatori (art. 13 din Regulamentul IA) și supravegherea umană (art. 14 din Regulamentul IA). În același timp, articolul 4 contribuie indirect la protecția persoanelor afectate, având în vedere că sprijină aplicarea eficientă a celorlalte norme prevăzute de Regulamentul IA.
Criterii pentru măsurile de alfabetizare în domeniul IA:
Măsurile care trebuie luate în scopul sprijinirii alfabetizării trebuie adaptate contextului în care sunt utilizate sistemele de IA, cunoștințelor tehnice, experienței, educației și formării personalului furnizorilor și al implementatorilor.
De asemenea, acestea trebuie să ia în considerare și persoanele sau grupurile de persoane în legătură cu care sunt utilizate sistemele de IA.
Regulamentul IA nu impune în sarcina furnizorilor sau implementatorilor obligația de a garanta un anumit nivel de cunoștințe în domeniul IA al vreunei persoane.
Întrebări frecvente
Cui i se aplică art. 4 din Regulamentul IA? Cine sunt „celelalte persoane”? Cine sunt „persoanele afectate”?
Furnizorii și implementatorii de sisteme de IA
Art. 4 alin. (1) din Regulamentul IA impune obligația de a adopta măsuri pentru sprijinirea alfabetizării în domeniul IA în sarcina furnizorilor și implementatorilor de sisteme de IA, indiferent de dimensiunea acestora și de tipul sistemului de IA.
Pentru a facilita îndeplinirea acestei obligații, este recomandat ca furnizorii și implementatorii de sisteme de IA să documenteze măsurile întreprinse în scopul îndeplinirii obligației referitoare la alfabetizarea în domeniul IA.
Un document util pentru a determina dacă un sistem se califică drept sistem de IA, în sensul definiției prevăzute la art. 3 pct. (1) din Regulamentul IA, îl reprezintă Orientările Comisiei Europene privind definiția unui sistem de inteligență artificială, disponibile aici.
Persoanele care se ocupă cu operarea și utilizarea sistemelor de IA în numele furnizorilor/implementatorilor
Persoanele care se ocupă cu operarea și utilizarea sistemelor de IA în numele furnizorilor/implementatorilor nu sunt angajații acestora, ci persoane care se află, în sens larg, sub responsabilitatea organizațională a furnizorilor sau a implementatorilor. Acestea pot fi, de exemplu, un subcontractor, un furnizor de servicii sau un client.
Persoanele afectate
Art. 3 pct. (56) și considerentul nr. 20 din Regulamentul IA fac referire și la persoanele afectate de utilizarea sistemelor de IA, prin acestea înțelegându-se acele persoane în legătură cu care urmează să fie utilizate sistemele de IA.
Obligația referitoare la alfabetizare în domeniul IA prevăzută de art. 4 alin. (1) în sarcina furnizorilor și implementatorilor de sisteme de IA nu presupune și o instruire în domeniul IA a persoanelor afectate, însă implementarea de către furnizori și implementatori a obligației referitoare la alfabetizare trebuie să țină cont și de categoriile de persoane care pot fi afectate de utilizarea sistemelor de IA.
Există o obligație de a măsura nivelul de cunoștințe al angajaților?
Art. 4 din Regulamentul IA nu instituie o obligație de a măsura nivelul de cunoștințe în domeniul IA al angajaților. Cu toate acestea, alin. (1) al acestui articol prevede că furnizorii și implementatorii de sisteme de IA ar trebui să ia măsuri pentru a sprijini dezvoltarea alfabetizării acestora în domeniul IA, ținând seama de cunoștințele tehnice, experiența, educația și formarea profesională a angajaților.
Art. 4 alin. (1) din Regulamentul IA precizează că această obligație nu impune furnizorilor sau implementatorilor să garanteze un anumit nivel de alfabetizare în domeniul IA pentru fiecare persoană.
Care ar trebui să fie conținutul minim al unui program de alfabetizare în domeniul IA pentru a respecta cerințele art. 4 din Regulamentul IA?
Pentru a respecta obligațiile referitoare la alfabetizare, furnizorii și implementatorii sistemelor de IA ar trebui să ia în considerare cel puțin următorii pași și următoarele întrebări:
- Să asigure o înțelegere generală a inteligenței artificiale în cadrul organizației: Ce este IA? Cum funcționează? Ce sisteme de IA sunt utilizate în organizație? Care sunt oportunitățile și riscurile asociate acestora?
- Să ia în considerare rolul organizației lor (furnizor sau implementator de sisteme de IA): Organizația mea dezvoltă sisteme de IA sau doar utilizează sisteme de IA dezvoltate de o altă organizație?
- Să ia în considerare riscurile asociate sistemelor de IA furnizate sau utilizate: Ce trebuie să știe angajații atunci când utilizează un astfel de sistem de IA? Care sunt riscurile de care trebuie să fie conștienți și dacă trebuie să fie conștienți cu privire la măsurile de atenuare a acestora?
- Să își construiască în mod concret acțiunile privind alfabetizarea în domeniul IA pe baza analizei de mai sus, ținând cont de:
- diferențele în ceea ce privește cunoștințele tehnice, experiența, educația și formarea profesională a personalului și a celorlalte persoane care se ocupă cu operarea și utilizarea sistemelor de IA în numele lor – Cât de multe știu angajații/persoanele care operează/utilizează sisteme de IA despre inteligența artificială și despre sistemele de IA ale organizației pe care le utilizează? Ce altceva ar trebui să știe?
- contextul în care urmează să fie utilizate sistemele de IA;
- persoanele asupra cărora sistemele de IA urmează să fie utilizate – În ce sector și în ce scop/pentru furnizarea cărui serviciu este utilizat sistemul de IA?
Considerentele de la literele a)-d) includ aspecte juridice și etice. Prin urmare, sunt încurajate înțelegerea Regulamentului IA și a principiilor de etică și guvernanță.
Pornind de la acești pași, în conformitate cu art. 4 alin. (3) din Regulamentul IA, Consiliul IA va adopta recomandări, ținând seama de cadrele europene de competențe (a se vedea și considerentul 8 Digital Omnibus on AI), pentru a sprijini Comisia și statele membre în promovarea alfabetizării în domeniul IA prevăzute la alineatul (1), inclusiv prin stabilirea unor obiective comune.
Cum trebuie să își documenteze organizațiile acțiunile întreprinse pentru a respecta obligația de a lua măsuri pentru a sprijini dezvoltarea alfabetizării în domeniul IA? Sunt necesare certificate specifice?
Nu este necesar un certificat. Organizațiile pot păstra o evidență internă a instruirilor și/sau a altor inițiative de informare și îndrumare.
Cine va asigura supravegherea aplicării art. 4 din Regulamentul IA și de la ce dată?
Supravegherea modului în care este aplicat art. 4 din Regulamentul IA intră în atribuțiile autorităților naționale de supraveghere a pieței, care pot începe să monitorizeze aplicarea acestor prevederi începând cu 2 august 2026. În România, aplicarea acestor prevederi va putea fi supravegheată și controlată începând cu data la care intră în vigoare dispozițiile din legea pentru punerea în aplicare la nivel național a Regulamentului IA care desemnează autoritățile de supraveghere a pieței și stabilește atribuțiile acestora.
Deși deciziile privind supravegherea aplicării normelor intră în competența autorităților naționale de supraveghere a pieței din fiecare stat membru, Oficiul pentru IA va colabora îndeaproape cu Consiliul IA pentru a sprijini aplicarea corespunzătoare a acestora.
O companie ai cărei angajați utilizează ChatGPT, de exemplu, pentru redactarea unor texte publicitare sau pentru traducerea unor texte, trebuie să respecte cerința privind alfabetizarea în domeniul IA prevăzută la art. 4 din Regulamentul IA?
Da. Angajații ar trebui să fie informați cu privire la riscurile specifice, cum ar fi riscul de „halucinații” ale IA (generarea de informații incorecte sau inventate) sau cu privire la necesitatea verificării rezultatelor înainte de publicare sau transmitere, de exemplu.