Consultant în securitate informatică: Riscurile cibernetice cresc odată cu utilizarea inteligenței artificiale

Emisiunea: ''Matinal'' - Rubrica: ''Apel matinal'' - Realizatori: Daniela Petrican și Cătălin Cîrnu

Guvernul ceh a interzis în toate instituțiile publice utilizarea produselor bazate pe inteligența artificială furnizate de o companie din China. Decizia vizează produsele, aplicațiile, soluțiile, site-urile, respectiv serviciile web și se bazează pe recomandarea Oficiului Național pentru Securitate Cibernetică și Securitatea Informațiilor de la Praga, întrucât ar putea duce la accesul aparatului de stat datele stocate pe serverele din China. Cehia consideră China o amenințare cibernetică serioasă, comparând-o chiar cu Rusia în ceea ce privește capacitățile ofensive.

Și alte țări, precum Germania, Italia, Țările de Jos, Olanda sau Australia, au restiționat sau chiar au interzis utilizarea unor softuri din China în administrația publică. Și totuși, ce implică această decizie la nivel european, inclusiv pentru România, aflăm din discuția pe care o vom purta cu invitatul "Apelului matinal", Ionuț Florea, consultant în securitate informatică certSIGN. Bună dimineața!

Bună dimineața!

Programele software produse în China s-au dovedit până acum periculoase și justifică îngrijorările statelor europene?

Sunt în momentul de față în zona Făgăraș într-o tabără pentru copiii antreprenori pentru a vorbi cu ei despre securitatea cibernetică. Și o să vă dau un exemplu legat de inteligența artificială. Unul dintre copii și-a dezvoltat propria afacere folosind inteligența artificială. Vinde mystery boxes, cutii cadou, pe care le comanzi și nu știi ce vor conține. E o modă de ceva timp cu astfel de copii. Copilul a folosit inteligența artificială pentru a porni afacerea și pentru promovarea acesteia. Practic, inteligența artificială este aici. Toată lumea, inclusiv copiii, au acces la ea. Deci trebuie să pornim de la această paradigmă. De asemenea, din punct de vedere legislativ, ca să vă răspund la întrebare, există, la nivelul Uniunii Europeană, IA act, este un regulament ce reglementează utilizarea inteligenței artificiale și acesta este, în primul rând, cadrul legislativ ce trebuie urmărit. Multe dintre prevederile lui începe să se aplice din luna august anul acesta. Permiterea sau interzicerea produselor din anumite țări, în zona inteligenței artificiale, depinde de fiecare guvern în parte, și dumneavoastră spuneați mai devreme că a fost făcută o analiză de către agenția de securitate cehă. Există precedente, de exemplu, în licitațiile 5G, există precedente cu TikTok, care a fost interzis în anumite țări pe telefoanele guvernamentale. Și aici analiza trebuie să o facă fiecare stat sau, în general, Uniunea Europeană și să stabilească zonele în care consideră periculoasă utilizarea anumitor produse. La inteligență artificială trebuie să ținem minte că, indiferent de țară, indiferent de furnizor, atâta timp cât nu ai instalat pe propriile tale servere soluția de inteligență artificială, nu ai antrenat inteligența artificială să folosească datele tale, atunci când o utilizezi, practic, dai datele în internet, pe serverele producătorului, iar ele nu îți mai aparțin, ci vor fi folosite de inteligență artificială pentru a se antrena și pentru a da răspunsuri și altor utilizatori. Deci, practic, datele tale ajung la ceilalți.

Da, sunt atâtea companii care ne oferă aplicații și așa mai departe, contând pe inteligența artificială, cum alegem, până la urmă, soluția cea mai bună?

Soluția o alegem în primul rând în funcție de nevoile pe care le avem, trebuie să demistificăm un pic, cred eu, zona aceasta de inteligență artificială. Nu este inteligență în sensul pur al cuvântului. Sunt niște algoritmi și este machine learning. Practic, are capacitatea de a procesa un volum mare de date. De exemplu, pentru a identifica patterns sau pentru a face lucruri repetitive și de aici, trebuie să plecăm. Aici, poate, să fie valoarea lui adăugată. Trebuie să-l abordăm cu mare prudență și să verificăm care sunt rezultatele pe care le dă și pentru a putea decide când putem să-l folosim. Pentru că răspunsurile pe care ți le dă inteligența artificială sunt foarte bine scrise și convingătoare. Știe să scrie foarte frumos, însă inteligența artificială poate să halucineze, să halucineze înseamnă să dea niște răspunsuri greșite, să-și imagineze că acelea sunt datele corecte. Răspunsul trebuie să fie verificat, să fie trecut prin filtrul uman, iar rezultatele astfel verificate pot fi folosite să te bazezi pe ele. Sunt exemple de cărți care au fost publicate și vândute pe Amazon, cărți scrise de inteligență artificială care dădeau remedii medicale greșite. Nu a existat niciun fel de verificare înainte de a fi publicate. Practic putem să o folosim, putem întreba inteligența artificială. De exemplu, în Google acum, în momentul în care faci o căutare, primul răspuns este generat de inteligență artificială, face o compilație din datele pe care le procesează Google, dar răspunsul acela trebuie să fie verificat.

Dar ce presupune în esență implementarea în administrație a software-ului inteligenței artificiale?

Poate să adreseze foarte multe domenii în administrație inteligența artificială. Cum spuneam mai devreme, depinde ce fel de soluții de inteligență artificială folosești. Dacă alegi soluția mai complexă și de durată mai lungă de a-ți implementa propriul, propriile servicii de inteligență artificială, de a le învăța tu să facă anumite lucruri, de exemplu să răspundă la cererile clienților, să ofere suport tehnic sau să elimine munca repetitivă, sau să simplifice lucrurile pe care le fac utilizatorii pentru a le da timp să se concentreze pe munca efectivă care are nevoie de creativitate sau să pui întrebări, pur și simplu, te documentezi, ai nevoie de niște rezultate, întrebi și inteligența artificială, vezi ce părere are.

Da, totul e să nu mizăm doar pe inteligența artificială, dar de acum încolo, la cât de repede se mișcă inteligența artificială, vom vedea, nu știu, poate o amplificare a riscurilor cibernetice?

Da, riscurile cibernetice cresc odată cu utilizarea inteligenței artificiale, pentru că atacatorii folosesc inteligența artificială pentru a simplifica munca, descoperă mai uşor vulnerabilități sau folosesc inteligența artificială pentru a genera atacuri, de exemplu atacuri de tip phishing, scriu mail-uri mai convingătoare, chiar generează voce care sună, sunt apeluri telefonice făcute de roboți cu inteligența artificială în parte, care conving oamenii să facă anumite lucruri. Și atunci, trebuie să ne apărăm de aceste atacuri, o dată, prin educarea utilizatorilor și a doua oară, în soluțiile de securitate cibernetică, de asemenea, se folosește inteligența artificială pentru a detecta anomalii, pentru a detecta anumite tipuri de atacuri și pentru a le răspunde. Acestea generează mai rapid alerte către analiștii de securitate, ei le analizează și practic, decid cum intervin.

Dar ce ar trebui să fac autoritățile române în continuare și în ce măsură este nevoie, la nivel public, de implementarea programelor inteligenței artificiale?

Din punctul meu de vedere, în primul rând, trebuie o conștientizare a utilizatorilor, publicul general, dar și autorităților în ceea ce privește această inteligență artificială. Ea ar trebui adoptată, dar înțeles ce poate să facă cu adevărat, punctual, pentru fiecare situație în parte, de înțeles care sunt limitările ei și care sunt riscurile.

Foarte interesant. Mai am o curiozitate, amintindu-ne cu toții de întâmplările prin care a trecut celebrul Deep Blue, mare supercomputer de șah dezvoltat de cei de la IBM - cred că nu s-au făcut încă 30 de ani. Pe atunci, mari șahişti îl învingeau. Acum nici nu se nu mai pune problema. Cât de mult credeți că va evolua inteligența artificială?

Inteligența artificială va evolua și din punctul meu de vedere, a apărut de puțin timp și va rămâne aici. Va evolua și va fi folosită atât constructiv, cât și pentru atacuri. Dar trebuie să învățăm să o folosim şi să luăm părțile bune ale ei, pentru a evolua. Nu o putem interzice, este aici, va rămâne și trebuie să învățăm să ne desfășurăm activitatea mai departe cu ea, așa cum ne desfășurăm activitatea folosind internetul.

Ideal ar fi să o controlăm noi pe ea și dacă se poate, în totalitate, corect?

Da, e un deziderat important acesta.

Cu mulţumiri. Ne vom reauzi cu siguranță, pentru că nu avem ce face, inteligența artificială este deja parte din cotidian. Ionuţ Florea, consulant în securitate informatică certSIGN, a fost invitatul "Apelului matinal"./editor Florin Lepadatu/