Comisia pentru afaceri constituționale a adoptat un raport prin care eurodeputații solicită menținerea controlului uman asupra utilizării inteligenței artificiale în cadrul instituțiilor Uniunii Europene. Documentul propune ca procesele de decizie să rămână centrate pe oameni, fiind supuse supravegherii constante și fiind compatibile cu protecția datelor și valorile fundamentale ale UE. Raportul pune accent pe necesitatea unor evaluări sistematice privind impactul tehnologiei asupra integrității proceselor electorale, dezinformării și manipulării informaționale.
Propunerea, elaborată de eurodeputatul Manolis Kefalogiannis din PPE, Grecia, subliniază că dezvoltarea inteligenței artificiale a devenit o problemă de natură constituțională. Utilizarea sistemelor AI poate influența modul în care sunt luate deciziile publice și modul în care cetățenii primesc informații. Raportul avertizează asupra riscurilor legate de ingerințele străine, încălcarea vieții private și utilizarea conținutului sintetic, precum deepfake-urile, care pot complica distincția între materialele autentice și cele generate artificial.
Un element central al raportului este propunerea creării unui observator AI în cadrul Parlamentului European, fără a implica un buget suplimentar sau puteri de reglementare. Acest observator ar avea rolul de a sprijini comisiile parlamentare prin monitorizarea practicilor instituțiilor europene și prin analiza efectelor AI asupra echilibrului instituțional. De asemenea, se propune utilizarea inteligenței artificiale pentru analiza legislației, însă cu interdicția explicită de a înlocui responsabilitatea politică umană în procesul decizional.
Raportul introduce și o dimensiune internațională neobișnuită, sugerând un acord global asupra riscurilor majore ale inteligenței artificiale. Această abordare este inspirată de modelul de cooperare utilizat de regimurile internaționale de neproliferare nucleară, vizând gestionarea tehnologiilor cu efecte transfrontaliere. Deși documentul reprezintă o solicitare politică pentru ca UE să joace un rol de lider în stabilirea unor reguli globale, acesta nu mandatează oficial începerea unor negocieri internaționale de tratat.
În ceea ce privește protecția drepturilor, eurodeputații pledează pentru noi protecții în cadrul Cartei drepturilor fundamentale a UE. Discuțiile vizează aspecte precum transparența algoritmică, protecția identității și a imaginii personale, autodeterminarea digitală și prevenirea discriminării algoritmice. Această direcție politică urmărește să completeze cadrul actual, asigurând în același timp că reglementările nu blochează inovarea sau competitivitatea companiilor europene care dezvoltă tehnologii proprii.
Acest demers de reglementare intervine într-un context în care cadrul european actual, reprezentat de AI Act, se concentrează pe introducerea pe piață a sistemelor. Totuși, comisia AFCO consideră că actualul cadru nu acoperă suficient aspectele instituționale și democratice. Raportul a fost adoptat cu 21 de voturi pentru și trei împotrivă, urmând să fie votat în plenul Parlamentului European în sesiunea dintre 19 și 22 octombrie.