În urma unor discuții „maraton” de trei zile, președinția Consiliului și negociatorii Parlamentului European au ajuns la un acord provizoriu cu privire la propunerea privind regulile armonizate privind inteligența artificială (IA), așa-numitul act privind inteligența artificială. Proiectul de regulament urmărește să se asigure că sistemele AI introduse pe piața europeană și utilizate în UE sunt sigure și respectă drepturile fundamentale și valorile UE. Această propunere emblematică urmărește, de asemenea, să stimuleze investițiile și inovarea în domeniul inteligenței artificiale în Europa.
Aceasta este o realizare istorică și o piatră de hotar uriașă către viitor! Acordul de astăzi abordează în mod eficient o provocare globală într-un mediu tehnologic cu evoluție rapidă într-un domeniu cheie pentru viitorul societăților și economiilor noastre. Și în acest demers, am reușit să păstrăm un echilibru extrem de delicat: stimularea inovației și a adoptării inteligenței artificiale în toată Europa, respectând în același timp pe deplin drepturile fundamentale ale cetățenilor noștri. Carme Artigas, secretar de stat spaniol pentru digitalizare și inteligență artificială
Actul AI este a pilot inițiativă legislativă cu potențialul de a stimula dezvoltarea și adoptarea unei IA sigure și de încredere pe piața unică a UE, atât de către actorii privați, cât și de către cei publici. Ideea principală este de a reglementa IA pe baza capacității acesteia din urmă de a provoca prejudicii societății în urma a „bazat pe risc” abordare: cu cât riscul este mai mare, cu atât regulile sunt mai stricte. Fiind prima propunere legislativă de acest gen din lume, poate stabili a standard global pentru reglementarea AI în alte jurisdicții, așa cum a făcut GDPR, promovând astfel abordarea europeană a reglementării tehnologiei pe scena mondială.
Principalele elemente ale acordului provizoriu
În comparație cu propunerea inițială a Comisiei, principalele elemente noi ale acordului provizoriu pot fi rezumate după cum urmează:
reguli asupra modele AI de uz general de mare impact care pot provoca risc sistemic în viitor, precum și risc ridicat Sisteme AI
un sistem revizuit de guvernare cu unele puteri de executare la nivelul UE
extinderea listei de interdicții dar cu posibilitatea de utilizare identificarea biometrică de la distanță de organele de drept în spațiile publice, sub rezerva garanțiilor
o mai bună protecție a drepturilor prin obligația pentru implementatorii de sisteme AI cu risc ridicat de a efectua a evaluarea impactului drepturilor fundamentale înainte de a pune în funcțiune un sistem AI.
În termeni mai concreti, acordul provizoriu acoperă următoarele aspecte:
Definiții și domeniul de aplicare
Pentru a se asigura că definiție a unui sistem AI oferă criterii suficient de clare pentru a distinge IA de sistemele software mai simple, acordul de compromis aliniază definiția cu abordarea propusă de OCDE.
Acordul provizoriu clarifică, de asemenea, că regulamentul nu se aplică domeniilor care nu intră în domeniul de aplicare al dreptului UE și nu ar trebui, în niciun caz, să afecteze competențele statelor membre în securitate naționala sau orice entitate încredințată cu sarcini în acest domeniu. În plus, legea AI nu se va aplica sistemelor care sunt utilizate exclusiv pentru militar or apărare scopuri. În mod similar, acordul prevede că regulamentul nu s-ar aplica sistemelor AI utilizate în scopul exclusiv al cercetare și inovare, sau pentru persoanele care folosesc AI din motive non-profesionale.
publicitate
Clasificarea sistemelor AI ca practici AI cu risc ridicat și interzise
Acordul de compromis prevede a strat de protecție orizontal, inclusiv o clasificare cu risc ridicat, pentru a se asigura că sistemele AI care nu ar putea cauza încălcări grave ale drepturilor fundamentale sau alte riscuri semnificative nu sunt capturate. Sisteme AI prezentând numai risc limitat ar fi supusă luminii foarte mari obligații de transparență, de exemplu, dezvăluirea faptului că conținutul a fost generat de inteligență artificială, astfel încât utilizatorii să poată lua decizii informate cu privire la utilizarea ulterioară.
O gamă largă de Risc ridicat Sistemele AI ar fi autorizate, dar fac obiectul unui set de cerințe și obligații pentru a avea acces la piața UE. Aceste cerințe au fost clarificate și ajustate de colegiuitori astfel încât să fie mai multe fezabil din punct de vedere tehnic și mai puțin împovărătoare pentru ca părțile interesate să le respecte, de exemplu în ceea ce privește calitatea datelor, sau în legătură cu documentația tehnică care ar trebui să fie întocmită de IMM-uri pentru a demonstra că sistemele lor de IA cu risc ridicat respectă cerințele.
Deoarece sistemele AI sunt dezvoltate și distribuite prin lanțuri valorice complexe, acordul de compromis include modificări care clarifică repartizarea responsabilităţilor și rolurile diferiților actori în aceste lanțuri, în special furnizorii și utilizatorii de sisteme AI. De asemenea, clarifică relația dintre responsabilitățile în temeiul Legii AI și responsabilitățile care există deja în temeiul altor legislații, cum ar fi legislația relevantă privind protecția datelor din UE sau legislația sectorială.
Pentru unele utilizări ale AI, riscul este considerat inacceptabil și, prin urmare, aceste sisteme vor fi interzise din UE. Acordul provizoriu interzice, de exemplu, cognitive manipulare comportamentală, cei nețintiți fier vechi de imagini faciale de pe internet sau înregistrări CCTV, recunoașterea emoțiilor la locul de muncă și instituțiile de învățământ, notare socială, categorizare biometrică pentru a deduce date sensibile, cum ar fi orientarea sexuală sau convingerile religioase și unele cazuri de politica predictivă pentru indivizi.
Excepții de aplicare a legii
Având în vedere specificul autoritățile de aplicare a legii și nevoia de a-și păstra capacitatea de a utiliza IA în activitatea lor vitală, au fost convenite mai multe modificări ale propunerii Comisiei referitoare la utilizarea sistemelor AI în scopuri de aplicare a legii. Sub rezerva corespunzătoare garanții, aceste modificări sunt menite să reflecte nevoia de a respecta confidențialitatea datelor operaționale sensibile în legătură cu activitățile lor. De exemplu, a fost introdusă o procedură de urgență care permite agențiilor de aplicare a legii să implementeze un instrument AI cu risc ridicat care nu a trecut evaluare a conformității procedura in caz de urgenta. Cu toate acestea, a fost introdus și un mecanism specific pentru a asigura acest lucru drepturi fundamentale va fi suficient de protejat împotriva oricăror potențiale utilizări greșite ale sistemelor AI.
Mai mult, în ceea ce privește utilizarea timpului real identificarea biometrică de la distanță sisteme în spații accesibile publicului, acordul provizoriu clarifică obiectivele în care o astfel de utilizare este strict necesară în scopuri de aplicare a legii și pentru care autoritățile de aplicare a legii ar trebui, prin urmare, să li se permită în mod excepțional să utilizeze astfel de sisteme. Acordul de compromis prevede garanții suplimentare și limitează aceste excepții la cazurile victimelor anumitor infracțiuni, prevenirea amenințărilor reale, prezente sau previzibile, cum ar fi atacurile teroriste și căutările persoanelor suspectate de cele mai grave infracțiuni.
Sisteme AI de uz general și modele de fundație
Au fost adăugate noi prevederi pentru a lua în considerare situațiile în care sistemele AI pot fi utilizate în multe scopuri diferite (AI de uz general), și unde tehnologia IA de uz general este ulterior integrată într-un alt sistem cu risc ridicat. Acordul provizoriu abordează, de asemenea, cazurile specifice ale sistemelor IA de uz general (GPAI).
De asemenea, au fost convenite reguli specifice modele de fundație, sisteme mari capabile să efectueze cu competență o gamă largă de sarcini distinctive, cum ar fi generarea de videoclipuri, text, imagini, conversații în limbaj lateral, calcul sau generare de cod de computer. Acordul provizoriu prevede că modelele de fundații trebuie să respecte anumite cerințe obligații de transparență înainte de a fi introduse pe piaţă. A fost introdus un regim mai strict pentru 'impact mare' modele de fundație. Acestea sunt modele de bază antrenate cu o cantitate mare de date și cu complexitate, capabilități și performanțe avansate cu mult peste medie, care pot disemina riscuri sistemice de-a lungul lanțului valoric.
O nouă arhitectură de guvernare
Ca urmare a noilor reguli privind modelele GPAI și a necesității evidente de aplicare a acestora la nivelul UE, an Biroul AI în cadrul Comisiei este înființată sarcina de a supraveghea aceste modele de IA cele mai avansate, de a contribui la promovarea standardelor și a practicilor de testare și de a aplica regulile comune în toate statele membre. A grup științific de experți independenți va consilia Oficiul AI cu privire la modelele GPAI, prin contribuția la dezvoltarea metodologiilor de evaluare a capacităților modelelor de fundație, consiliere cu privire la desemnarea și apariția modelelor de fundație cu impact mare și monitorizarea posibilelor riscuri de siguranță materiale legate de modelele de fundație.
Board AI, care ar cuprinde reprezentanți ai statelor membre, va rămâne ca o platformă de coordonare și un organism consultativ al Comisiei și va acorda un rol important statelor membre în punerea în aplicare a regulamentului, inclusiv în conceperea codurilor de practică pentru modelele de fundații. În cele din urmă, an forum de consiliere pentru părțile interesate, cum ar fi reprezentanții industriei, IMM-urile, întreprinderile nou-înființate, societatea civilă și mediul academic, vor fi înființate pentru a oferi expertiză tehnică Consiliului AI.
penalități
Amenzile pentru încălcarea legii AI au fost stabilite ca procent din cifra de afaceri anuală globală a companiei care a contravenit în anul financiar precedent sau o sumă predeterminată, oricare dintre acestea este mai mare. Aceasta ar fi de 35 milioane EUR sau 7% pentru încălcarea aplicațiilor interzise AI, 15 milioane EUR sau 3% pentru încălcarea obligațiilor legii AI și 7,5 milioane EUR sau 1,5% pentru furnizarea de informații incorecte. Acordul provizoriu prevede însă plafoane mai proporționale privind amenzile administrative pentru IMM-uri și start-up-uri în cazul încălcării prevederilor actului AI.
Acordul de compromis precizează, de asemenea, că o persoană fizică sau juridică poate face o plângere la persoana relevantă autoritatea de supraveghere a pieței privind nerespectarea actului AI și se poate aștepta ca o astfel de plângere să fie tratată în conformitate cu procedurile dedicate ale autorității respective.
Transparența și protecția drepturilor fundamentale
Acordul provizoriu prevede a evaluarea impactului drepturilor fundamentale înainte ca un sistem AI cu risc ridicat să fie introdus pe piață de către implementatorii săi. Acordul provizoriu prevede, de asemenea, o majorare transparență cu privire la utilizarea sistemelor AI cu risc ridicat. În special, unele prevederi ale propunerii Comisiei au fost modificate pentru a indica faptul că anumiți utilizatori ai unui sistem IA cu risc ridicat, care sunt entități publice, vor fi, de asemenea, obligați să se înregistreze în baza de date a UE pentru sisteme AI cu risc ridicat. În plus, dispozițiile nou adăugate pun accentul pe o obligație pentru utilizatorii unui sistem de recunoaștere a emoțiilor să informeze persoanele fizice atunci când sunt expuse la un astfel de sistem.
Măsuri în sprijinul inovării
În vederea creării unui cadru juridic mai favorabil inovației și a promovării învățării de reglementare bazată pe dovezi, dispozițiile privind măsuri de sprijinire a inovării au fost modificate substanțial în comparație cu propunerea Comisiei.
În special, a fost clarificat faptul că AI cutii cu nisip de reglementare, care ar trebui să stabilească un mediu controlat pentru dezvoltarea, testarea și validarea sistemelor AI inovatoare, ar trebui să permită, de asemenea, testarea sistemelor AI inovatoare în condiții reale. În plus, au fost adăugate noi prevederi care să permită de testare a sistemelor AI în condiţiile lumii reale, în condiții și garanții specifice. Pentru a reduce sarcina administrativă pentru companiile mai mici, acordul provizoriu include o listă de acțiuni care trebuie întreprinse pentru a sprijini astfel de operatori și prevede unele derogări limitate și clar specificate.
Intrare in forta
Acordul provizoriu prevede că ar trebui să se aplice actul AI doi ani după intrarea sa în vigoare, cu unele excepții pentru prevederi specifice.
Pasii urmatori
În urma acordului provizoriu de astăzi, lucrările la nivel tehnic vor continua în săptămânile următoare pentru a finaliza detaliile noului regulament. Președinția va înainta textul de compromis reprezentanților statelor membre (Coreper) spre avizare odată ce această lucrare va fi încheiată.
Întregul text va trebui să fie confirmat de ambele instituții și să fie supus revizuirii juridico-lingvistice înainte de adoptarea oficială de către colegislatori.
Informații generale
Propunerea Comisiei, prezentată în aprilie 2021, este un element cheie al politicii UE de a stimula dezvoltarea și adoptarea pe piața unică a IA sigură și legală, care respectă drepturile fundamentale.
Propunerea urmează o abordare bazată pe riscuri și stabilește un cadru juridic uniform și orizontal pentru IA, care urmărește să asigure securitatea juridică. Proiectul de regulament își propune să promoveze investițiile și inovarea în IA, să îmbunătățească guvernanța și aplicarea efectivă a legislației existente privind drepturile fundamentale și siguranța și să faciliteze dezvoltarea unei piețe unice pentru aplicațiile AI. Merge mână în mână cu alte inițiative, inclusiv planul coordonat privind inteligența artificială, care are ca scop accelerarea investițiilor în IA în Europa. La 6 decembrie 2022, Consiliul a ajuns la un acord pentru o abordare generală (mandat de negociere) cu privire la acest dosar și a inițiat discuții interinstituționale cu Parlamentul European („triloguri”) la mijlocul lunii iunie 2023.
EU Reporter publică articole dintr-o varietate de surse externe care exprimă o gamă largă de puncte de vedere. Pozițiile luate în aceste articole nu sunt neapărat cele ale EU Reporter.
