Zeci și chiar sute de pagini de Facebook apar în România în fiecare zi, promovând imagini create cu inteligenţa artificială. Acesta este un trend care a prins rădăcini şi în ţara noastră, după ce aceeaşi reţea socială a fost inundată cu astfel de imagini fake şi în alte ţări ale lumii. Până şi fondatorul Faceboook, Mark Zuckerberg, a căzut în această capcană, atunci când a dat like „calului Challah”, imaginea fake cu un cal din pâine ce a păcălit milioane de oameni.

Silviu Gresoi, expert în inteligență artificială și combaterea fraudei, trage mai multe semnale de alrmă privind aceste poze de pe rețelele de socializare.

„Din pacate, peste 30.000 de aprecieri a strâns această poză generată de AI, fiind utilizată pentru a cere donații. Poza nu pare deloc “reală”, iar un tool de verificare confirmă și el falsul observat. Acest tip de fraudă va lua amploare. Nu donați, verificați și raportați”, scrie Gresoi pe linkedin.com.

Pe lângă obținerea unor sume de bani ilegal, experții spun că acestea urmăresc crearea sau schimbarea unor percepții la nivel social.

De exemplu, paginile de Facebook care promovează fotografii din anii comunismului cu mesaje de genul ”pe vremuri se mergea la munte cu Dacia și atât”, sau ”ce frumoasă era moda pe vremuri”, arătând fotografii cu femei din anii 60-70, fără operații estetice, vor să genereze nostalgia față de trecut și senzația că prezentul este mult prea greu de suportat.

Campanii menite să îi facă pe oameni să simtă că sunt nefericiți dar nu sunt singurii nefericiți

La fel, campania care se defășoară acum agresiv pe Facebook, cu fotografii generate cu Inteligența Artificială, pe ideea ”am făcut acest lucru și nimeni nu apreciază”, este menită să îi facă pe oameni să simtă că sunt nefericiți dar nu sunt singurii nefericiți într-o lume care nu-i apreciază.

Timp de mai multe zile, echipa antena3.ro a monitorizat şi căutat pagini cu astfel de conţinut. Pentru un ochi cât de cât familiarizat cu virtualul, postările de pe aceste pagini – atât textul, cât şi fotografiile – sunt create cu inteligenţa artificială. Iar fiecare postare antrenează şi zeci de mii de reacţii în doar câteva ore de la publicare.

„România autentică”, spre exemplu, are aproape 100.000 de urmăritori. Ultima postare e despre Ceauşescu, pe fotografia căruia este scrisă întrebarea: „Merită respect?”. În doar o oră de la postare, s-au strâns aproape 1.000 de like-uri, zeci de distribuiri şi peste 200 de comentarii, cele mai multe afirmative.

Captura foto antena3.ro

Restul paginii conţine postări de genul „Este ziua mea şi nimeni nu apreciază asta”, „Suntem fermieri, vă rog nu plecaţi fără a lăsa puţină dragoste şi o felicitare”, „am construit calul ăsta din ceapă şi nimeni nu apreciază”.

Poze create cu AI, sute de mii de aprecieri de la români

Aceleaşi postări le găsim şi pe alte pagini: „România tradiţională”, „Despre România”, Credinţă şi rugăciuni”, „România live”, „România Today”, „Tradiţional Românesc”. Peste 90 la sută din postări au imagini create cu inteligenţa artificială. Şi like-uri de la sute de mii de români.

Doi cercetători americani au publicat, anul trecut, un studiu referitor la aceste pagini de facebook, care distribuiau mesaje cu conţinut creat de inteligenţa artificială în Statele Unite ale Americii.

Cercetarea care arată ce se urmăreşte prin crearea unor pagini de Facebook cu imagini false

„Am analizat 120 de pagini de Facebook care au postat cel puțin 50 de imagini generate cu AI fiecare, clasificându-le în trei categorii: spam, escrocherii și „alți creatori”. Unele dintre aceste pagini formau clustere coordonate administrate de aceiași administratori.

Aceste imagini au generat colectiv sute de milioane de interacțiuni. Unul dintre aceste postări, care includea o imagine generată cu AI, a fost în top 20 cele mai vizualizate conținuturi pe Facebook în trimestrul al treilea din 2023, cu 40 de milioane de vizualizări.

Paginile de spam au folosit tactici de clickbait și au încercat să direcționeze utilizatorii către ferme de conținut externe și domenii de calitate scăzută.

Paginile de escrocherii au încercat să vândă produse inexistente sau să determine utilizatorii să dezvăluie informații personale. Unele dintre aceste pagini postau imagini generate cu AI pe pagini furate.

Imaginile generate cu AI apar în News Feed-ul utilizatorilor de Facebook, inclusiv celor care nu urmăresc paginile respective.

Se suspectează că aceste imagini apar în feed deoarece algoritmul de clasificare a News Feed-ului promovează conținutul care este probabil să genereze angajament ridicat.

Comentariile la imaginile generate cu AI sugerează că mulți utilizatori nu sunt conștienți de originea sintetică a acestora. Cu toate acestea, un subgrup de utilizatori postează comentarii sau infografice pentru a-i avertiza pe ceilalți utilizatori.

Faptul că utilizatorii sunt induși în eroare subliniază importanța etichetării clare și a măsurilor suplimentare de transparență pentru astfel de conținuturi.

Unele dintre paginile de Facebook analizate au utilizat și practici înșelătoare cunoscute, cum ar fi furtul sau preluarea conturilor, și au prezentat creșteri suspecte ale numărului de urmăritori”, se arată în concluziile-cheie ale cercetării realizate de Renee DiResta şi Josh A.Goldstein.

De asemenea, se mai precizează că cercetătorii și factorii de decizie politică se tem că aceste tehnologii ar putea fi folosite pentru a injecta informații false în discursul politic.

Cine sunt românii care distribuie şi dau like postărilor false?

Dar cui folosesc aceste pagini? La ce? În ce se pot transforma? Şi care este profilul românilor care apreciază astfel de postări?

„Foarte mult din conţinutul acestor pagini este îndreptat spre oameni care sunt dintr-o zonă mai tradiţionalistă, ceva mai în vârstă, către oameni care sunt singuri şi care caută un conţinut care să fie mai apropiat de gusturile, de valorile lor. Şi apasă pe o coardă emoţională a oamenilor. Iar datorită inteligenţei artificiale devine foarte uşor să produci aceste imagini.

În câteva secunde poţi crea un astfel de conţinut. Probabil au văzut că funcţionează, că sunt destui oameni care intră acolo în vorbă, care vor reacţiona, care vor distribui mai departe, aşa că exploatează această nişă de conţinut”, spune antropologul Radu Umbreş, pentru antena3.ro.

Totodată, acesta mai precizează şi că astfel de pagini reprezintă „o unealtă informatică”.

„Ca în toată istoria, cine o inventează primul şi o foloseşte mai mult va avea, cel puţin temporar, un avantaj. Acum, pentru bine, pentru rău, o unealtă este aceeaşi. Depinde cine o foloseşte”, explică Radu Umbreş.

Analist comportamental: „Sunt oameni care vor să împingă mai departe chiar şi un neadevăr”

La rândul său, Nansi Lungu, analist comportamental, explică şi el care este profilul oamenilor ce aleg să dea like şi să distribuie conţinut fals, creat de inteligenţa artificială.

„Una peste alta, avem o categorie de oameni care vor să împingă mai departe chiar şi un neadevăr. Lucrul ăsta e foarte important, pentru că noi, când comunicăm, împingem perspectivele care ne favorizează pe noi sau credem noi că ne favorizează.

Văd foarte mulţi oameni care spun: oamenii nu îşi dau seama care este adevărul, se lasă manipulaţi. În fapt, lucrurile – şi sunt studii serioase în zona asta, care ne dau acest indiciu – este că, de multe ori, oamenii ştiu care este adevărul. Ştiu foarte bine care-i adevărul şi-l împing în faţă mai departe”, a explicat Nansi Lungu.

Astfel de pagini, folosite de infractorii cibernetici ca să îţi fure datele. Şi banii

Dincolo de mecanismele care îi fac pe oameni să promoveze astfel de postări false, apar motivaţiile creatorilor unui astfel de conţinut. Despre asta ne vorbeşte Mihai Rotariu, manager al Direcţiei Comunicate, Media şi Marketing din cadrul Directoratului Naţional de Securitate Cibernetică (DNSC).

Mihai Rotariu: Ele pot fi folosite atât pentru fake news, cât şi pentru infracţionalitate cibernetică. Cred că ştim bine că, undeva de prin 2023, infracţionalitatea cibernetică şi-a mutat preponderent propagarea de astfel de tentativă de fraudă chiar în zona de social media. Şi de ce fac asta? Foarte simplu: au costuri aproape zero.

Fie încearcă să compromită anumite pagini, prin care, de exemplu, pot lansa anumite anunţuri sponsorizate, reclame realizate fie cu video, fie cu audio de tip deepfake, prin care, practic, mesajul iniţial al unor clipuri, imagini sau audio este alterat. Practic, ei promovau nişte tentative de fraudă care vizau anumite programe naţionale de îmbogăţire.

(Deepfake este o tehnologie care folosește inteligența artificială pentru a crea videoclipuri sau imagini false, dar foarte realiste, în care fețele sau vocile oamenilor sunt manipulate astfel încât să pară că spun sau fac lucruri pe care nu le-au spus sau făcut niciodată. – n.r.)

Practic, redirecţionau utilizatorii către astfel de pagini de pishing, pagini unde se colectau date personale, date sensibile, date de identificare şi, nu în ultimul rând, date de card.

Fenomenul a mai scăzut, desigur, pentru că şi reţelele de social media şi-au îmbunătăţit instrumentele de identificare a unor astfel de tentative de fraudă. Şi atunci, este vital, în primul rând, să ştim despre existenţa acestui fenomen.

Şi, în al doilea rând, să avem o igienă de securitate formată din nişte reflecte de securitate formate în modul online la fel cum le avem în viaţa reală.

Articol preluat de pe: Stiri pe Surse Social