Expert IT : Ne aflăm într-o eră digitală care nu ne protejează pe noi ca utilizatori

Realizatori: Daniela Petrican și Cătălin Cîrnu

Rolul pe care îl joacă astăzi în viața publică atât rețelele sociale de tipul Facebook, WhatsApp, dar inclusiv aplicații precum TikTok sau altele similare a crescut semnificativ la nivelul întregii societăți. Statistica arată că printre pasionați putem găsi inclusiv persoane de vârstă medie sau seniori care folosesc intensiv rețelele sociale, chiar dacă tinerii rămân, evident, o majoritate.

Dar oare care este rolul algoritmilor în creșterea popularității producției de conținut? Discutăm pe această temă alături de invitatul de astăzi al "Apelului matinal", Ștefan Tecuceanu, expert la nivel internațional în domeniul IT, al inteligenței artificiale și al algoritmilor. Bună dimineața!

Bună dimineața și mulțumesc frumos pentru invitație.

Da, încercăm să explicăm și noi ceea ce s-a întâmplat la nivelul rețelelor sociale după alegerile din primul tur, alegerile prezidențiale din România și să ne dăm seama exact ce se întâmplă. Cum se face că unele clipuri, ajung să primească doar câteva zeci de vizualizări, iar altele câteva milioane?

Păi mă gândesc întâi că ar trebui să înțelegem cum funcționează de fapt algoritmul, de exemplu pe TikTok, iar poate după aceea cred că ar fi interesant să vedem... adică aș putea chiar să explic cum se poate crea un asemenea aparat de propagandă.

O reacție în lanț, practic asta s-a întâmplat.

Da, exact.

Haideți, explicați-ne.

Și poate după aceea ce se poate face, care sunt modalitățile noastre tehnice existente la ora actuală. Păi mă gândesc că întâi, ok, cum funcționează algoritmii de TikTok. Deci algoritmii de tip TikTok recompensează până la urmă conținuturile care primesc foarte multe interacțiuni. Asta înseamnă aprecieri, comentarii, distribuiri, conținuturi care sunt vizionate complet sau repetat de mai multe ori, foarte important. Și, bineînțeles, conținuturi care generează rapid reacții în primele minute. Cam pe aceste trei, să spun așa, trei baze se construiește acest acești algoritmi de TikTok. Bun, ce putem... Adică ce fac aceste conturi false sau acești boți, unde intervin ei? Păi în primul și în primul rând la generarea aprecierii. Deci boții pot oricând să fac aprecieri așa cum i-am programat eu, astfel dând videoclipul iluzia unei popularități...

A, exact asta trebuie punctat. Practic e ca atunci când eu, de exemplu, sunt atât de încântat de un clip încât îl repet la infinit, ceea ce boții îl fac automat. Corect?

Exact, exact. Deci pe lângă aprecieri... aprecierea e prima etapă ca să faci să-l tentezi, să tentezi algoritmul de TikTok, apoi vin comentariile, bineînțeles comentariile au foarte mare importanță și calitatea comentariilor. Aici intervin boți, care poate se folosesc și de arhitecturi în spate, adică de interfețe către o arhitectură de GPT, adică dacă ne gândim acum la Chat GPT, am văzut ce frumoase comentarii și răspunsuri ne dă la întrebări. Deci, prin asta automat /bots-urile/ devin mult mai inteligente. Bineînțeles, distribuit de videoclipuri, dar de obicei în direcția asta un bot nu prea face prea mult că ajung celelalte...adică prin aprecieri, prin comentarii și prin vizionarea videoclipurilor. Foarte importantă este vizionarea videoclipurilor pentru a crește, bineînțeles, durata de vizionare și a convinge algoritmii că materialul este chiar captivant.

Dar în ce condiții este posibil ca un utilizator obișnuit să își poată promova singur eficient clipurile?

Deci, haideţi să mergem poate...

Este nevoie de sume de bani pentru promovare?

Deci, se poate face o promovare cu sume de bani, bineînțeles, ar fi o promovare oficială, dar se poate face bineînțeles și o promovare neoficială, care poate dă un rezultat mult mai bun. Pentru asta, ok, cum s-ar putea crea asemenea propagandă? Deci, în primul și în primul rând mi-ar trebui câteva conturi reale și pe lângă pentru fiecare cont real mi-ar trebui câteva sute de boți, care să fie legate de aceste conturi reale. Și acești boți ce o să facă? O să-mi facă aprecieri, o să-mi facă comentarii, o să-mi genereze bineînțeles și vizionări, iar prin această tehnică eu cumva am fentat algoritmul TikTok, care crede acum că acest conținut este foarte captivant și a trebuit să-l dea din sfera mai mică a acelei bule, în care eu mi-am creat contul și i-am dat drumul, să încerce din ce în ce să mărească această sferă, pentru că la început, în momentul când am publicat ceva, această publicare merge doar la o anumită sferă micuță și ea se tot mărește, se tot mărește cu cât vede că e o interacțiune mult mai puternică. Sunt vizionări, sunt distribuiri, sunt comentarii, este totul activ, se trăiește cu adevărat. Asta înseamnă, bineînțeles, că nu numai că trebuie să am /bots-uri/ și să am conturi reale, ci am nevoie și de un conținut care să fie manipulativ. Și dacă ne gândim, există până la urmă doar șapte tehnici de manipulare, iar una dintre tehnicile de manipulare este de exemplu Social proof, în care dacă eu văd că un videoclip are 10.000 de vizualizări, bineînțeles că m-ar încânta. Mă uit mai degrabă la un videoclip de 10.000 de vizualizări decât la alt videoclip, care nu are aceste vizualizări.

Adică ideea este să stârnești interes, indiferent de modul în care îl faci, nu, îl creezi?

Corect, deci trebuie să am o calitate a acestui conținut, să stârnesc, să am emoții, să mă joc cu emoțiile, deci emoțiile extreme cresc interacțiunile, deci când ne gândim la entuziasm, furie, uimire, deci duc la o promovare mai mare de către acești algoritmi și, bineînțeles, o atracție mai mare a oamenilor. Din perspectiva asta, conținutul, calitatea conținutului, calitatea boţilor pot să-mi propage automat videoclipurile mult mai rapid, să ducă la o creștere exponențială, că până la urmă asta se întâmplă la un moment dat. Eu, prin acești roboței, pe mine mă ajut să cresc la un moment dat, dar dacă creezi, mai multe conturi, să zic așa false, și fiecare are mai mulți roboței, se pot răspândi ca o ciupercă și la un moment dat se răspândesc exponențial, folosindu-ne, bineînțeles, de acești algoritmi ai TikTok pe care îi manipulăm, dacă creăm așa ceva.

Aceasta este ferma de troli sau e o altă sintagmă care vorbește despre altceva?

Da /.../ ferma de troli, da, se pot se pot cumpăra momentan acești troli, se pot cumpăra programe care pot instala sau chiar se pot lua direct de pe dark web sau dark net, dacă intrăm acolo. Deci momentan ne aflăm într-o eră digitală, după părerea mea, care nu ne protejează pe noi ca utilizatori. Dau numai un exemplu, deci din 2018 tot atrag atenția asupra acestui aspect, pentru că utilizatorul, în această eră a digitalizării, a acestor date în care există și pe care le generăm zilnic, suntem supuși unei manipulări pe care noi nu o realizăm cu adevărat, dar din păcate - deci am încercat și la conferință în România și în Germania, încă nu se dorește o investiție aici, deși este posibil să poți să faci un scut de protecție. Așa cum există un antivirus să ai și un anti-manipulare, un sistem care îți zice: această știre este manipulativă, acesta este un fake news. Şi acuma, dacă tot am zis de fake news, mă gândesc că poate ar fi interesant să ştiți cum ne putem proteja, că am explicat până acuma cum se poate crea o asemenea propagandă, deci prin conturi, cum am zis, fake, și cu aceste boţuri, care fiecare cont să aibă mai multe, sute sau dacă nu mii de boţuri, care îl promovează, dar bineînțeles avem și o tactică de a ne proteja....

Exact, cum ne apărăm? Cum ne protejăm?

Una dintre dintre metode ar fi Legea lui Benford. Nu știu dacă aţi auzit de Legea lui Benford, descrie probabilitatea în cifre ca un număr să aibă o anumită valoare. Adică, dau un exemplu acuma. Dacă ne uităm la numere de la 1 până ... deci 1, 2, 3, 4, 5, 6, 7, 8, 9 și 0, aceste cifre, teoretic, fiecare ar trebui să aibă o probabilitate de a ieși de 10%, dar nu este în...

1 apare mult mai des, logic, nu?

Exact, deci 1 apare mult la des, deci aproximativ în 30% din cazuri, 2 apare în 17% din cazuri ș.a.m.d. De exemplu, mi se pare că numărul 9 apare undeva la 4% din cazuri şi această distribuire a cifrelor, care este, se spune conform Legii lui Benford, care este reală, universul nostru este bazat această idee. Deci dau numai un exemplu ca să înțelegem. Deci dacă facem o fotografie şi este reală, acea fotografie pentru că o fotografie în spate nu este nimic altceva decât pixeluri, care au o anumită intensitate luminoasă, adică pot să o descriu matematic, această poză, dacă e făcută cu un aparat și este normală și n-am făcut nicio manipulare, va avea această distribuire a lui Benford. Cum am schimbat ceva, cum am salvat-o din nou această poză, în momentul respectiv s-a schimbat deja această distribuire a probabilităților și atunci deja pot să-mi dau seama ok, aici s-a întâmplat ceva şi exact această lege a probabilităților, această lege a lui Benford se poate aplica aici în cazurile /boţilor/, în sensul respectiv că pe baza a câte like-uri primesc, pe baza faptului câți boţi, ce legătură au cu alte conturi. Această redistribuire sau distribuire a probabilităților îmi poate arăta mie dacă sunt conturi fake sau sunt conturi reale, sau ce se întâmplă aici. Dacă combinăm această lege a lui Benford, împreună cu inteligența artificială bazată pe legea lui Benford, deja avem un sistem care ne poate avertiza că aici este vorba de manipulări și aș merge chiar mai departe, deci se poate... mai adăugăm câteva AI-uri și putem să depistăm și dacă sunt știrile manipulative, dacă sunt reale ...

Foarte, foarte interesant, da, fizicianul american, nu?, el este, cel care a descoperit, cred înainte de cel de-Al Doilea Război acest șir...

Corect.

...dar e o certitudine, trebuie să ai totuși experți, nu, ca să poţi...

Corect, corect. Trebuie sa ai experți, dar cum am zis, se poate realiza, deci totul este posibil și eu cred că este mare nevoie acuma să se facă așa ceva și, după părerea mea, de către state, de către România, către Germania, de către Europa, de către adică toatălumea, pentru că trăim în această eră a datelor și a manipulării.

Da, trebuie găsiți algoritmii pentru viitorul comunicării publice, pentru protejarea de orice influență a libertății internetului și a rețelelor sociale. Cu mulțumiri adresate invitatului de astăzi al "Apelului matinal", Ștefan Tecuceanu, expert la nivel internațional în domeniul IT, al inteligenței artificiale și al algoritmilor./editor Florin Lepadatu/