UE aplică restricții softurilor AI // Dan Alexe: Inteligența artificială nu e skynet
Parlamentul European a adoptat săptămâna aceasta o lege care impune restricții privind inteligența artificială. Comisia UE va crea un birou european pentru inteligența artificială care va supraveghea domeniul. Așadar, restricțiile pe care le propune parlamentul vizează transparența sistemelor de inteligență artificială care adună informații de pe internet, supravegherea populației este limitată, iar imaginile și clipurile generate de computer ar trebui să aibă un marcaj special.
Radu Osipov l-a intervievat pe jurnalistul Dan Alexe care monitorizează activitatea instituțiilor europene. Legea aprobată de Parlamentul European ar trebui să primească votul șefilor de stat și de guvern din uniune. Guvernul francez este totuși reticent privind limitarea AI în domeniul securității naționale, susține Dan Alexe. Logica europeană este respingerea modelului chinez de supraveghere socială și excluderea AI din educație.
(NE)INTELIGENȚA ARTIFICIALĂ | CHAT GPT FURĂ
Radu Osipov: Domnule Alexe, vă mulțumesc pentru că ați acceptat să discutăm. Înainte să pornim înregistrarea acestui interviu, am încercat să aflu trei întrebări pentru interviul cu dumneavoastră de la inteligența artificială. Dar nu cred că e cazul să vi le adresez, pentru că nu vor arăta esența legii pe care a adoptat-o Parlamentul European. Cert este că aceste limbaje ale inteligenței artificiale, algoritmii s-au dezvoltat, foarte repede au mers înainte. Pot genera texte, pot genera imagini, pot genera video. Ce presupune această lege aprobată de Parlamentul European, ținând cont că și Republica Moldova la un moment dat va trebui să adopte legislația privind inteligența artificială?
Dan Alexe: Legea Europeană este prima din lume de genul acesta, însă nu a intrat încă în vigoare. Ea trebuie mai întâi adoptată de liderii europeni, cei 27, la summitul de săptămâna viitoare și probabil în mai va fi publicată în Monitorul European, în Jurnalul European al Legislațiilor și atunci va intra în vigoare. De mai multă vreme se discută, parlamentarii au încercat și anul trecut. Spaima a venit după decembrie 2022, când a apărut Chat GPT, de fapt, a apărut prin noiembrie. Și când lumea și-a dat seama de potențialul, poate și distrugător, al unei asemenea inteligențe artificiale care de fapt e contestată de unii ca fiind inteligență, pentru că la baza ei se află ceea ce se numește, cum ar veni pe românește, un model lingvistic lărgit – large language model – care constă în primul rând în colectarea de date, cât mai multe. Deci, sistemele astea circulă, trec prin sită internetul și strâng date și învață acumulând. Bun, asta și publicul înțelege. Ceea ce este deranjant din punctul de vedere al legislației europene e faptul că mașinăria, mă rog, e virtuală, nu e mașină cu rotițe, dar sistemul fură. Strânge tot felul de date de pe site-uri, articole de ziar, bucăți de cărți și așa mai departe, fragmente și le folosește, or asta deja de multe ori s-a văzut că contravine legislației europene a dreptului de autor. Și de asemenea sistemul nu e transparent. Pe deasupra serverele fiind bazate în afara Europei, sunt foarte greu de controlat. Și atunci s-a introdus această legislație care încă nu este în vigoare și care introduce mai multe niveluri de strictețe. Există în primul rând folosirea largă, să-i spunem, unde e nevoie de transparență și de respectarea drepturilor de autor. Dar mai sunt niște domenii strategice, de foarte mare importanță, unde atenția va fi și mai strict îndreptată asupra funcționării. E vorba de învățământ, de exemplu. Nu-l poți lăsa pe mâna unei inteligențe artificiale, cred că asta este limpede și nici în viitorul apropiat nu se va putea, cel puțin nu în Europa.
CHINA | PARTIDUL ȘTIE TOT CE MIȘCĂ CETĂȚENII
Dan Alexe: Și cel mai important punct, factor, domeniu este cel al supravegherii populației. Or una din prevederi, care deja face nemulțumiți prin anumite țări, interzice, de exemplu, recunoașterea facială în stradă, imediată, simultană.
Radu Osipov: Da, în timp real. Această recunoaștere facială, se referă și la domeniul civil și la domeniul securității?
Dan Alexe: Teama este că acele date vor fi păstrate, deci se introduce și un termen. Sunt clauze care permit totuși, de exemplu în caz de terorism, dar trebuie spus că rămân foarte multe puncte neclare. Unul din acestea, foarte important și are legătură cu supravegherea populației, și cu alte părți ale legislației, este faptul că se propune crearea unui birou european al inteligenței artificiale care ar face parte din Comisia Europeană și care ar centraliza într-un fel criticile, incidentele și încălcările, dar nu se prevede cine va face parte din el și cum vor fi aleși sau numiți membrii. Este exemplul negativ al Chinei. China aplică ceea ce se numește, mă rog, în traducere, în diferite limbi, credit social. Este un sistem de supraveghere drăcesc, pentru că seamănă într-un fel, și știu că sună absurd, cu permisul de condus pe puncte.
Radu Osipov: Au fost și filme distopice, de exemplu Black Mirror, unde am văzut aceste credite sociale, pe când ele sunt folosite pe bune de China.
Dan Alexe: În viața reală, însă la un nivel mult mai coborât și personal, asta face Facebook. Eu care am fost banat și blocat de multe ori pe Facebook și închis uneori luni în șir. Descopăr cu oroare că la avertismente, acolo la setări personale, ele încă există, ele nu se vor șterge niciodată, unele sunt de-acum doi, trei ani. Deci Facebook știe și are urma a tot ce am făcut în fața computerului în ultimii 12 ani. E tot un sistem de supraveghere până la urmă și chiar și aici...
Radu Osipov: E folosit în scopuri comerciale cel puțin.
Dan Alexe: Sigur că da, dar chiar și aici Europa a introdus deja anumite legislații care interzic păstrarea datelor vreme prea îndelungată. Și datorită legislației europene Facebook este obligat să-ți dea întreaga activitate, dacă o soliciți. Părțile negative în strictețea absolută a Europei este că, de exemplu, anumite site-uri americane nu sunt accesibile din Europa. Am încercat să citesc un articol pe Kansas City Star și mi-a apărut ecranul alb: Nu e disponibil în țara dumneavoastră. Deci legislația europeană, pe de o parte, te protejează, pe de altă parte, se duce accesul la franjuri ale internetului.
AI VS OMENIREA | NICIO ȘANSĂ PENTRU SKYNET
Radu Osipov: Domnule Alexe, pentru că tot am făcut referințe la pop culture, la filme, ar trebui cumva să le explicăm celor care ne urmăresc că inteligența artificială nu este un Skynet care conspiră împotriva omenirii.
Dan Alexe: Da, eu sunt sceptic cu privire la, să zicem, transformarea rețelelor de inteligență socială într-un Skynet. Dacă ne amintim, HAL 9000 din Odiseea Spațială, sistemul care ucide astronauții unul după altul, pentru că greșise și îi era rușine că greșise. Și Isaac Asimov a scris o grămadă despre părțile... Prevăzând ca un profet de fapt încă din anii ’50. Bine, nu cred că se va ajunge acolo pentru că și din partea americană sunt anumite restricții. Sistemul a devenit foarte woke, foarte corect politic, enervant și uneori devine inutilizabil. Refuză să traducă anumite fraze, de exemplu, dacă conțin termeni pornografici sau dacă... Refuză să răspundă la anumite întrebări, uneori, să spunem așa, mici defecte umane care sunt utile. S-a făcut un studiu, de exemplu, despre partea inumană a inteligenței artificiale care nu va fi umplută niciodată. De exemplu, în întreprinderi, un liant social foarte solid între lucrători, este, să zicem, mașina de cafea la care ei se strâng în mici grupuri și bârfesc. Bârfa aceea nu este ceva negativ, uneori nici nu e răutăcioasă. Dar sigur, mai sunt înțepături, mai sunt ironii: Ai văzut-o pe aia cum și-a făcut părul azi? Asta e partea umană. Asta ușurează stresul la muncă și strânge relații între oameni. Or inteligența artificială refuză să bârfească, pentru că a fost programată să nu facă asta. Și dacă începem cu acest punct, să zicem, mai minor, ne dăm deodată seama că nu poate deveni umană pentru că, și nu zic o prostie, nu a avut niciodată coșuri, nu știe ce înseamnă să fii umilit la școală, nu știe ce înseamnă să fii îmbrăcat prost, degeaba îi bagi înăuntru milioane de romane. Nu va simți.
Radu Osipov: Exact, dar cel puțin știe să învețe și știe să empatizeze. Dacă îi spui: Închipuie-ți că ești Dan Alexe. Poate face acest exercițiu.
Dan Alexe: Nu, e greu să fii eu, am multe pături de răutate înăuntru, iar pe de altă parte, nu va face decât să imite personaje din milioanele de romane pe care le-a citit. Dar spontaneitatea este interzisă prin programare. Nu va scoate niciodată: Prostule, lasă-mă în pace! Ceea ce este iarăși o trăsătură umană, pentru că ne enervăm uneori, mașina nu se enervează.
UNIUNEA EUROPEANĂ ȘI STATELE UNITE | VIZIUNI DIFERITE
Radu Osipov: Despre inteligență artificială și politică. Să ne aducem aminte de Brexit și scandalul Cambridge Analytica, când au fost folosite mesaje țintite în funcție de profilul fiecărui utilizator de rețele sociale. Dar acum există și aceste imagini generate de AI, poate genera inteligență artificială și videouri, Există pericolul deepfake-urilor pe care nu toți le pot distinge și nu toată lumea înțelege care este diferența dintre un video virtual și un video filmat în realitate, pentru că nu toți au nivelul de pregătire digitală potrivit.
Dan Alexe: Da, pentru a ajunge la o reglementare în acel domeniu, va fi nevoie de o cooperare între Uniunea Europeană și Statele Unite, și sectorul public din Statele Unite. Acolo funcționează o anumită delăsare. Marile firme, acele GAFA (Google, Apple, Facebook, Amazon) care nu mai sunt GAFA, sunt mai multe acum, practic uneori fac ce vor în America și faptul că încă o dată serverele sunt situate acolo limitează posibilitatea de acțiune a europenilor. Se adaugă la asta și o anumită, să-i spunem, iritare de ambele maluri ale Atlanticului, pentru că Europa a dat niște amenzi colosale giganților internetului, ceea ce a stârnit mare consternare și supărare în America, mergând până acolo încât Donald Trump a numit-o pe Margrethe Vestager, șefa cu competiția în Comisia Europeană, a spus: Femeia asta urăște America! Atunci când a dat o amendă pentru Google (2,7 miliarde de euro), mult mai mare decât cea dată recent pentru Apple (1,8 miliarde de euro). Deci aici, cooperarea va fi indispensabilă și greu de realizat, pentru că la americani, ideologia de a face fiecare ce vrea este literă de biblie, iar în Europa se reglementează atât de strict încât, de exemplu, Franța e nemulțumită de textul adoptat pe 13 martie de Parlamentul European. Exact în aceeași zi, o comisie specială, numită de Macron, i-a înmânat un raport care prevede un anume tip de supraveghere a populației. Franța e obișnuită cu revoltele de stradă, cu vestele galbene și poliția franceză e renumită pentru violența pe care o aplică uneori. E foarte diferit felul în care funcționează acolo justiția și supravegherea populației, de Germania, de exemplu, unde totul e mai blând și mai controlat, așa încât Franța va găsi probabil textul parlamentarilor prea constrângător.
Radu Osipov: Vreau să ne referim la acele prevederi care presupun cumva etichetarea unor produse de inteligență artificială. De exemplu, imaginile generate de inteligență artificială sau clipurile video, pentru că acum am văzut că AI-ul poate genera clipuri video de foarte bună calitate.
Dan Alexe: Legislația atinge și acest domeniu, însă nici aici nu sunt reguli prea clare și deja sunt voci care au protestat în Europa, anumite lobby-uri. Există și în Europa start-up-uri... Desigur, se pune problema acelor deepfake-uri. Ele au speriat când au apărut prima oară și se propun diferite mijloace tehnice de aplicare a unei semnături invizibile sau imposibilitatea tehnică de a modifica imaginea. Dar, încă o dată, legislația e abia la început și, fără cooperare cu Statele Unite, nici aici nu se va progresa.
