1asig.ro
1asig.ro

Comisia Europeana propune noi norme si masuri menite sa sprijine increderea in Inteligenta Artificiala si excelenta in acest domeniu

5 min. / 1.540 cuvinte
Comisia Europeana propune noi norme si masuri menite sa transforme Europa in polul mondial al unei Inteligente Artificiale (IA) de incredere. Imbinarea primului cadru juridic privind IA cu un nou plan coordonat cu statele membre va garanta siguranta si drepturile fundamentale ale cetatenilor si ale intreprinderilor, consolidand adoptarea IA, precum si investitiile si inovarea in domeniul IA in intreaga UE.

PROMO

Aceasta abordare va fi completata de noile reglementari privind echipamentele tehnice, care, prin adaptarea normelor de siguranta, urmaresc sa sporeasca increderea utilizatorilor in noua generatyie versatila de produse.

"In ceea ce priveste Inteligenta Artificiala, increderea constituie o necesitate absoluta, nu un element optional. Odata cu adoptarea acestor norme de referinta, UE va impulsiona elaborarea unor noi reguli la nivel mondial care sa asigure ca IA este de incredere. Prin definirea standardelor, putem sa deschidem calea catre o tehnologie etica in intreaga lume si sa ne asiguram ca UE isi mentine competitivitatea pe termen lung. Adaptate exigentelor viitorului si favorabile inovarii, normele noastre vor interveni in cazurile in care este strict necesar: atunci cand sunt in joc siguranta si drepturile fundamentale ale cetatenilor UE", arata Margrethe VESTAGER - Vicepresedinte executiv pentru o Europa pregatita pentru era digitala.

Comisarul pentru piata interna, Thierry BRETON, a declarat: "Inteligenta Artificiala reprezinta un mijloc, nu un scop in sine. Este prezenta in viata noastra de zeci de ani, insa, in momentul de fata, a atins noi capacitati, alimentate de puterea de procesare, oferind un potential imens in domenii foarte diverse, cum ar fi sanatatea, transporturile, energia, agricultura, turismul sau securitatea cibernetica. Totodata, IA implica o serie de riscuri. Propunerile prezentate au ca obiect sa consolideze pozitia Europei in calitate de pol mondial al excelentei in domeniul Inteligentei Artificiale, de la laborator, la piata, sa asigure faptul ca, in Europa, Inteligenta Artificiala respecta valorile si normele noastre si sa valorifice potentialul Inteligentei Artificiale pentru utilizare industriala."

Datorita noului Regulament privind IA, europenii vor putea avea incredere in oportunitatile pe care le ofera IA. Normele proportionale si flexibile vor aborda riscurile specifice pe care le prezinta sistemele de IA si vor stabili cele mai inalte standarde pe plan mondial. Planul coordonat prezinta schimbarile de politica si investitiile necesare la nivelul statelor membre pentru a consolida pozitia de lider a Europei in dezvoltarea unei IA centrate pe factorul uman, durabile, sigure, favorabile incluziunii si de incredere.

Abordarea europeana privind o IA de incredere

Noile norme vor fi aplicate direct in acelasi mod in toate statele membre, pe baza unei definitii a IA adaptate exigentelor viitorului, si urmeaza o abordare bazata pe riscuri:

Risc inacceptabil: Vor fi interzise sistemele de IA considerate o amenintare clara la adresa sigurantei, a mijloacelor de subzistenta si a drepturilor persoanelor. Printre acestea, se numara sistemele sau aplicatiile de IA care manipuleaza comportamentul uman pentru a impiedica utilizatorii sa isi exercite liberul arbitru (de exemplu, jucarii care utilizeaza asistenta vocala, incurajand un comportament periculos din partea minorilor) si sistemele care permit guvernelor sa efectueze o evaluare a comportamentului social ("social scoring").

Risc ridicat: Sunt considerate ca prezentand un grad ridicat de risc sistemele in care tehnologia IA este utilizata in:
  • infrastructurile critice (de exemplu, transporturile), care ar putea pune in pericol viata si sanatatea cetatenilor;
  • formarea educationala sau profesionala, care poate determina accesul la educatie si traiectoria profesionala a unei persoane (de exemplu, sistemul de notare utilizat in cadrul examenelor);
  • componentele de siguranta ale produselor (de exemplu, o aplicatie a IA utilizata in chirurgia robotica);
  • ocuparea fortei de munca, gestionarea lucratorilor si accesul la activitati independente (de exemplu, software de selectie a CV-urilor pentru procedurile de recrutare);
  • serviciile publice si private esentiale (de exemplu, evaluarea bonitatii care ii impiedica pe cetateni sa aiba posibilitatea de a obtine un imprumut);
  • activitatea de asigurare a respectarii legii care poate aduce atingere drepturilor fundamentale ale cetatenilor (de exemplu, evaluarea fiabilitatii probelor);
  • gestionarea migratiei, a azilului si a controlului la frontiere (de exemplu, verificarea autenticitatii documentelor de calatorie);
  • administrarea justitiei si procesele democratice (de exemplu, aplicarea legii in cazul unui set concret de date factuale).
Inainte de a putea fi introduse pe piata, sistemele de IA care prezinta un grad ridicat de risc vor face obiectul unor obligatii stricte, astfel incat sa se asigure urmatoarele:
  • sisteme adecvate de evaluare si reducere a riscurilor;
  • calitatea ridicata a seturilor de date care alimenteaza sistemul, pentru a se reduce la minimum riscurile si rezultatele discriminatorii;
  • inregistrarea activitatii pentru a asigura trasabilitatea rezultatelor;
  • documentatia detaliata care sa furnizeze toate informatiile necesare privind sistemul si scopul acestuia, pentru ca autoritatile sa poata evalua conformitatea sistemului in cauza;
  • informatii clare si adecvate pentru utilizatori;
  • masuri care sa garanteze o supraveghere umana corespunzatoare, in vederea reducerii la minimum a riscului;
  • un nivel ridicat de robustete, securitate si precizie.
In special, se considera ca toate sistemele de identificare biometrica la distanta prezinta un grad ridicat de risc si fac obiectul unor cerinte stricte. In principiu, este interzisa utilizarea lor in timp real in spatii accesibile publicului, in scopuri de asigurare a respectarii legii. Sunt prevazute cateva exceptii limitate, strict definite si reglementate (cum ar fi utilizarea in cazurile in care este strict necesar, pentru a cauta un copil disparut, pentru a preveni o amenintare terorista specifica si iminenta sau pentru a detecta, a localiza, a identifica sau a urmari in justitie persoane care au comis ori sunt suspectate ca au comis infractiuni grave). O astfel de utilizare este conditionata de obtinerea unei autorizatii din partea unui organism judiciar sau a unui alt organism independent si de termene adecvate, de acoperirea geografica si de bazele de date in care se efectueaza cautari.

Risc limitat: sistemele de IA care fac obiectul unor obligatii specifice in materie de transparenta. Atunci cand utilizeaza sisteme de IA, cum ar fi robotii de chat, utilizatorii ar trebui sa fie constienti de faptul ca interactioneaza cu un aparat, astfel incat sa aiba posibilitatea de a lua o decizie in cunostinta de cauza: fie sa foloseasca in continuare respectivul sistem de IA, fie sa renunte la serviciile acestuia.

Risc minim: Propunerea legislativa permite utilizarea gratuita a unor aplicatii cum ar fi jocurile video bazate pe IA sau filtrele antispam. Marea majoritate a sistemelor de IA se incadreaza in aceasta categorie. Proiectul de regulament nu intervine aici, intrucat aceste sisteme de IA prezinta doar un grad de risc minim sau nu prezinta niciun risc pentru drepturile sau siguranta cetatenilor.

In ceea ce priveste guvernanta, Comisia propune ca autoritatile nationale competente de supraveghere a pietei sa asigure respectarea noilor norme. Instituirea Comitetului european pentru inteligenta artificiala va facilita punerea in aplicare a noilor norme si va stimula elaborarea de standarde in domeniul IA. In plus, se propun coduri de conduita voluntare pentru sistemele de IA care nu prezinta un grad ridicat de risc, precum si spatii de testare in materie de reglementare pentru a facilita inovarea responsabila.

Comunicatul integral al Comisiei Europene este disponibil AICI.

1.170 accesari
Sondaj

Cui considerati ca ii revine cea mai mare sarcina de a creste educatia financiara a romanilor?

- Institutiilor din domeniul financiar (ASF, BNR etc)
- Asociatiilor din domeniu
- Companiilor (asiguratori, banci, administratori de pensii etc)
- Scolilor
- Institutiilor statului
- Altele (va rog mentionati la rubrica de comentarii)


PROMO