„Identificarea este o știință foarte precisă. Nu este nevoie de inteligență artificială pentru asta, pentru că nu va duce la mai multă acuratețe”, spune Dragoș Todorac, membru al Parlamentului European din grupul Renew Europe, într-un interviu pentru Euractiv.pl.

În poziția de negociere adoptată miercuri (14 iunie), Parlamentul European a decis, printre altele, că AI nu poate fi folosită pentru monitorizarea biometrică și recunoașterea emoțiilor, iar conținutul generat de ChatGPT ar trebui marcat special. Decizia de miercuri este un precursor al negocierilor ulterioare asupra primului proiect de lege care reglementează problema. Răspunde la întrebările lui Bartosz Sieniawski despre legea inteligenței artificiale Dragos TodoracMembru al Parlamentului European al României din grupul Renew Europe.

Bartosz Sienawski, Euractiv.pl: Ce părere aveți despre încălcarea acordului de către membrii Partidului Popular European (PPE)? Ce părere aveți despre propunerea EPP de a utiliza AI pentru recunoașterea facială în unele cazuri?

Dragos Todorac: Cel mai important lucru este acordul. A fost încheiat de toate blocurile politice în urmă cu două săptămâni și au votat două comisii. În calitate de raportor, este de datoria mea să apăr această convenție. Este foarte clar. El vorbește despre interzicerea utilizării tehnologiei de identificare la distanță AI în timp real în locuri publice.

Personal, cred că această interdicție este necesară. Argumentele pe care PPE le invocă în ceea ce privește lupta împotriva infracțiunilor grave, terorismului sau răpirii de copii, care sunt cel mai des invocate, pot fi combatute efectiv astăzi prin alte mijloace. Deci securitatea poate fi garantată. În urmă cu câțiva ani, când lucram pentru Comisia Europeană, eram responsabil cu dezvoltarea celui mai mare sistem de identificare biometrică care este folosit astăzi de toate serviciile de aplicare a legii din Europa. Îi cunosc procesul. Identificarea este o știință foarte subtilă. Nu este nevoie de AI pentru aceasta, deoarece nu va avea ca rezultat mai multă acuratețe. Astăzi, nimeni nu interzice forțelor de ordine să folosească identificarea biometrică în cazuri grave. Există mecanisme pentru asta, există tehnologie și nu o vom interzice cu un vot și acest acord. Aș spune chiar că este o discuție aproape falsă. Cel mai important este votul. Într-adevăr, Partidul Popular European a încălcat acordul pe care l-am încheiat la nivelul grupului politic introducând amendamente suplimentare. Cu toate acestea, am avut deja o astfel de discuție. În urmă cu peste un an, am primit un raport special despre inteligența artificială și utilizarea acesteia în forțele de ordine. A existat o majoritate clară în Parlament în favoarea interdicției.

În timpul dezbaterii de marți, am indicat că deputații europeni au îngrijorări cu privire la potențiala utilizare abuzivă a IA. Considerați că este un instrument util sau o amenințare la adresa democrației?

Cred că este în primul rând o tehnică utilă. Are un potențial imens pentru economia și societățile noastre, ceea ce este deja evident deoarece este utilizat în multe domenii – în agricultură, sănătate, transport și o mai bună gestionare a resurselor de la apă la electricitate și gaz. În același timp, prezintă anumite riscuri, dar numai pentru anumite aplicații. Prin urmare, am avut mare grijă în crearea acestui text pentru a ne asigura că reglementăm doar acele utilizări care prezintă un risc. Marea majoritate a activităților AI vor rămâne nestructurate. Comisia Europeană estimează că aceasta reprezintă între 80 și 90% din toate activitățile AI disponibile. Și așa ar trebui să fie.

Cum poate inteligența artificială să îmbunătățească democrația europeană?

Îmbunătățirea democrației poate fi un cuvânt foarte puternic, dar cred că poate avea un impact pozitiv asupra vieților noastre, economiilor și societăților noastre. Pentru că trăim în democrații, implicit, și democrațiile noastre se vor îmbunătăți. Nu îmi pot imagina descoperiri în domenii importante ale controlului bolilor fără inteligență artificială. Se știe deja că diagnostice importante ale bolilor grave sunt efectuate cu ajutorul inteligenței artificiale. Cartografierea proteinelor și a moleculelor esențiale pentru înțelegerea și dezvoltarea medicamentelor se face cu ajutorul inteligenței artificiale. Acesta este doar unul dintre multele exemple. Industriile noastre nu vor putea funcționa fără instrumente AI integrate. Desigur, există și un risc pentru democrațiile noastre din funcționarea lor și trebuie să înțelegem acest lucru și să-l limităm.

Ați spus mai devreme că legea inteligenței artificiale poate fi cea mai importantă lege adoptată de Parlamentul European în acest sens. De ce crezi asta?

Nu documentul în sine îl face atât de important. Totul ține de inteligența artificială pentru că schimbă tot ceea ce facem. Poate că nu toată lumea înțelege pe deplin în ce măsură acest lucru va afecta comunitățile și viețile noastre. Acestea sunt schimbări pozitive care afectează profund modul în care lucrăm astăzi. De la modul în care copiii învață la școală până la profesiile care vor fi transformate de AI. Va trebui să ne integrăm și să învățăm să trăim cu ea. Această transformare profundă este evidentă și în geopolitică. Tehnologia a devenit un domeniu în care vor avea loc forțele geopolitice. Din toate aceste motive, introducerea unor norme și standarde pentru dezvoltarea acestei tehnologii în viitor devine foarte importantă. Prin urmare, cred că această lege este cea mai importantă lege din această perioadă. Și nu sunt singurul care gândește așa. De asemenea, ne uităm la feedback din întreaga lume. Multe țări care poate nu au fost convinse până de curând de necesitatea introducerii unor reguli pentru a deschide calea pentru IA se află în acest moment. Acum vedem din ce în ce mai multe dintre aceste țări realizând faptul că inteligența artificială o oferă și recunoscând astfel nevoia de reguli. Noi, ca Uniunea Europeană, suntem deja cu mult înaintea tuturor celorlalți pentru că am gândit, gândit, angajat și scris aceste reguli.

În timp ce lucrați la versiunea finală a propunerii de lege privind inteligența artificială, dumneavoastră sau alți deputați europeni care lucrează la lege ați întâmpinat presiuni care vizează oprirea sau încetinirea activității?

Primesc foarte mult această întrebare despre rolul presiunii. Nu mă simțeam ca un lobbyist. Da, am fost abordați de organizații de consumatori, sindicate, ONG-uri, activiști, universități, mediul academic și întreprinderi. Văd acest lucru ca pe ceva care ne îmbogățește înțelegerea fenomenului și a impactului său. Învățăm de la oameni și de la ideile și soluțiile pe care le oferă. Și pentru asta, trebuie să fiu informat să înțeleg ce crede fiecare despre AI, care sunt temerile lor, care sunt speranțele, care sunt așteptările, pentru a cântări pe fiecare și a alege cea mai bună soluție. Îmi fac judecățile și iau propriile mele decizii. Nu îl consider un lobbyist pentru că nu îmi permit să fiu afectat de ceea ce aud până nu îl transmit la discreția mea. Este important să ne menținem independența în gândirea noastră și în deciziile pe care le luăm.

Care parte din versiunea finală a propunerii de lege privind inteligența artificială a fost cel mai dificil de definit sau de convenit cu alți europarlamentari și alte grupuri?

Cred că partea cea mai grea în ceea ce privește cât de dificil este de definit este să descoperi principiile AI generative pe care le-am pus în aplicare. Cel mai important lucru pentru noi a fost să o rezolvăm bine și eficient.

Chatul GPT a apărut pentru toată lumea în urmă cu doar șase luni. Înainte de asta, cunoșteam și acordam o atenție deosebită modelelor de bază și aplicațiilor generale ale inteligenței artificiale, realizând că va trebui să dezvoltăm reguli speciale care nu erau prezente în propunerea inițială a comisiei. Nu aveam un stil gata făcut cu care să lucrăm sau să corectăm, așa cum a fost cazul cu restul textului. A trebuit să inventăm ceva nou. Ne-am făcut timp să înțelegem și să ne gândim la asta. Când am făcut-o, în doar o săptămână am reușit să ajungem la un consens cu aproape toate celelalte grupuri politice cu privire la propunerea pe care coraportorul și cu mine am înaintat-o. În ceea ce privește durata negocierilor, ne-am petrecut cea mai mare parte a timpului pe articolele 5 și 6, care tratează interdicțiile și IA cu mize mari. A fost clar de la început că aceasta era o problemă în care aveau să izbucnească bătălii ideologice majore între grupurile politice. Și s-a confirmat.

Aveți planuri pentru tehnologia viitoare?

Aceasta este o întrebare legitimă, mulți întrebându-se dacă ceea ce facem acum va rezista testului timpului. Aceasta este problema principală. Este legislația suficient de perspectivă încât, odată cu creșterea rapidă și exponențială a vitezei și fluidității tehnologiei, regulile vor fi încă în vigoare peste un an, doi sau trei ani?

Răspunsul meu este da, deoarece toate fenomenele sociale și economice reglementate de legislație se schimbă de obicei. Unele sunt mai rapide decât altele, dar și ei evoluează. Asta nu înseamnă că legea se schimbă tot timpul. Sunt fost judecător și am lucrat cu un cod civil vechi de 100 de ani. Cred că putem fi cu toții de acord că multe s-au schimbat în 100 de ani. Aceasta nu înseamnă că natura obligațiilor și drepturilor pe care le creăm în cadrul legii pentru anumite fenomene trebuie să se schimbe și ea, chiar dacă fenomenul în sine evoluează.

Același lucru este valabil și pentru această problemă. Dacă scriem un angajament de transparență în legislația noastră, înseamnă că trebuie să dezvăluiți seturile de date utilizate pentru antrenamentul algoritmilor și că trebuie să explicați instrucțiunile date algoritmilor de către dezvoltatorul codului. Aceste angajamente se vor aplica în continuare, chiar și pentru Chat GPT 20 sau 30, chiar dacă tehnologia continuă să evolueze. Până la adoptarea acestui proiect de lege, nu vom ști ce versiune de Chat GPT sau alte implementări sunt, dar cred că angajamentele de bază și sistemul de conformitate pe care l-am integrat în această legislație se vor aplica în continuare chiar și cu această tehnologie în schimbare. Mai multe aspecte tehnice au fost deja anticipate în text și ar putea fi adaptate. Deci, de exemplu, descrierea cazurilor de utilizare cu risc ridicat a fost inclusă în anexă, deoarece am anticipat că acele părți, precum descrierea tehnică, ar putea trebui să se schimbe pe măsură ce tehnologia a evoluat. Putem exclude anumite utilizări din această listă, iar această listă poate fi adaptată cu ușurință printr-o procedură legislativă mult mai rapidă decât sistemul legislativ normal pe care îl avem în prezent.

Responsabilitatea exclusivă pentru orice conținut susținut financiar de Fondul European de Informații și Media revine autorului și nu reflectă neapărat punctele de vedere ale EMIF, ale partenerilor Fondului, ale Fundației Calouste Gulbenkian și ale Institutului Universitar European. // https://gulbenkian.pt/emifund/