Fenomenul Deepfake - identitatea falsă prin AI

Noile tehnologii fac tot mai dificilă distincția dintre ceea ce este real și ceea ce este fals. Unul dintre cele mai recente fenomene care contribuie la această incertitudine este Deepfake sau identitatea falsă prin AI (inteligența artifcială). Apărut undeva în jurul anului 2017, fenomenul Deepfake continuă să devină din ce în ce mai avansat și greu de depistat, motiv pentru care a stârnit îngrijorări majore cu privire la potențiala sa utilizare în scopuri rău intenționate.

Ce este Deepfake?

Fenomenul Deepfake a apărut ca rezultat al avansării rapide a inteligenței artificiale și a tehnologiilor de învățare profundă. Deepfake este o tehnologie bazată pe inteligența artificială, prin care pot fi create cu ușurință imagini, videoclipuri și materiale audio falsificate, dar foarte realiste. Termenul de Deepfake a apărut în limba engleză, în urma alăturării termenilor "deep" de la "deep learning", care este o funcție avansată de învățare automată a inteligenței artificiale și "fake", care se referă la ceva fals.

Cum a apărut DeepFake?

Termenul de Deepfake a apărut pentru prima dată în anul 2017 pe platforma Reddit, unde un utilizator a postat pentru prima dată materiale pornografice falsificate, cu chipurile unor celebrități. Inițial, aceste materiale erau limitate la comunitățile online și forumuri precum Reddit și 4chan. Cu toate acestea, pe măsură ce software-urile și instrumentele necesare au devenit mai accesibile și mai ușor de utilizat, crearea de Deepfakes s-a răspândit rapid. În prezent, există diverse aplicații și software open-source, care permit oricui să creeze astfel de materiale cu mare ușurință.

Cum pot fi create materialele de tip Deepfake?

Pentru crearea unui Deepfake este nevoie de mai întâi de un program sau software care este bazat pe tehnologiile de inteligență artificială. Odată ales, acest soft va avea nevoie de cât mai multe imagini și videoclipuri cu persoana țintă, din diverse unghiuri, lumini și ipostaze diferite. Acestea sunt necesare pentru ca programul să recunoască și să reproducă într-un mod cât mai fidel trăsăturile, expresiile faciale, tonurile vocii și ale mișcări sau gesturi distinctive ale persoanei. Mai departe, softul sau aplicația va alinia chipul persoanei în imaginile sau videoclipurile generate în cea mai realistă formă posibilă. Acești algoritmi ajustează pozițiile și dimensiunile feței dar și expresiile faciale pentru a asigura o potrivire perfectă. Modelul "antrenat" este apoi utilizat pentru a suprapune fața falsificată pe corpul sau fața din videoclipul țintă. Aceasta implică ajustarea detaliilor precum iluminarea, unghiurile și expresiile pentru a crea un efect realist. Softul va face apoi îmbunătățirile finale, în care se adaugă detalii și se corectează orice anomalii sau diferențe vizibile pentru a asigura o tranziție naturală și o textură realistă. Algoritmii suplimentari de post-procesare pot fi de asemenea folosiți pentru a îmbunătăți calitatea vizuală și coerența videoclipului.

De ce este folosită tehnologia Deepfake?

Din păcate, Deepfake este în general folosită în scopuri lipsite de etică, pentru a murdări imaginea anumitor persoane, pentru propagandă politică, dezinformare și răspândirea știrilor false. Totuși, Deepfake poate avea și întrebuințări pozitive precum efecte speciale și anumite avantaje în ceea ce privește industria cinematografică, dar și în reclame și în crearea de conținut în cazul publicității și al jurnalismului. De asemenea, Deepfake mai este adesea creat și pentru divertisment pe platformele de socializare sau în cazul pamfletelor și al satirei.

Cum putem identifica un Deepfake?

Așa cum inteligența artificială a fost folosită pentru crearea Deepfakes, poate fi folosită și pentru detectarea lor. Odată cu răspândirea fenomenului au apărut și diverse softuri care pot îl pot depista. Softurile precum cel dezvoltat de Microsoft, Microsoft Video Authenticator, care  analizează cadrele videoclipurilor pentru a identifica orice semne de manipulare, Deepware Scanner sau Face Forensics +. Materialele de tip Deepfake pot conține anumite discrepanțe și diferențe subtile în ceea ce privește sincronizarea buzelor cu sunetul, mișcările ochilor și anumite expresii faciale. De asemenea, analizarea contextului, a sursei și a informațiilor transmise pot demasca un Deepfake. Anumite softuri pot analiza și aceste metadate, dar ele pot fi verificate și de către indivizii care suspectează prezența unui Deepfake.

Perspective legislative în privința Deepfake în România

Este important de menționat că în România autoritățile sunt preocupate de răspândirea tot mai exacerbată a Deepfake. Guvernul României a creat diverse materiale informative despre fenomenul Deepfake și chiar și o platformă specială, denumită #nofake, unde orice persoană care sesizează un Deepfake, îl poate semnala cu ușurință.

Impactul Deepfake în politică

Deepfakes au devenit din ce în ce mai populare în contextul politic pentru răspândirea dezinformării, a informațiilor false și a manipulării opiniei publice prin propagandă politică. Mobilizarea opiniei maselor din punct de vedere politic este acum posibilă datorită facilităților oferite de platformele de socializare. Deepfake reprezintă o amenințare semnificativă în domeniul propagandei politice datorită capacității sale de a crea conținut falsificat extrem de realist. Utilizarea sa în acest context poate duce la dezinformare masivă, manipularea opiniei publice și destabilizarea proceselor democratice. Deepfake este capabil să creeze videoclipuri și imagini false care înfățișează politicieni sau alte personalități publice în situații compromițătoare. Aceste materiale pot fi apoi distribuite pe rețelele sociale și alte platforme de comunicare pentru a induce în eroare publicul, pentru a răspândi informații false și pentru a influența voturile alegătorilor. Aceste tactici sunt deosebit de periculoase în contextul alegerilor, unde opinia publică poate fi manipulată pentru a favoriza un anumit candidat sau partid politic.

Deepfake și securitatea cibernetică

Dincolo de politică, Deepfakes reprezintă, de asemenea, o preocupare tot mai mare în domeniul securității cibernetice. Acestea au fost folosite pentru a comite fraude, în special în sectorul criptomonedelor, unde au facilitat atacuri sofisticate de phishing sau înșelăciune electronică și furturi de identitate. Deepfake-urile pot fi folosite pentru a realiza atacuri sociale, în care atacatorii creează videoclipuri sau audio false ale unor persoane de încredere pentru a păcăli victimele să divulge informații sensibile sau să efectueze acțiuni dăunătoare pentru sine.

Riscurile și dezavantajele Deepfake

1. Dezinformare și propagandă politică

Deepfakes pot fi folosite pentru a crea și distribui informații false în scopuri de propagandă politică sau dezinformare. Videoclipurile falsificate pot denigra adversarii politici, influența opinia publică și manipula rezultatele electorale, subminând astfel procesele democratice și stabilitatea politică.

2. Destrămarea încrederii publicului

Răspândirea Deepfakes poate eroda încrederea publicului în informațiile vizuale și auditive existente pe internet. Oamenii pot deveni sceptici cu privire la autenticitatea conținutului media, ceea ce duce la neîncredere generalizată. Acest fenomen poate avea efecte negative asupra jurnalismului și capacității societății de a distinge între adevăr și minciună.

3. Hărțuire și defăimare

Anumite persoane pot deveni ținta hărțuirii și defăimării. Deepfakes pot fi utilizate pentru a crea conținut fals compromițător despre indivizi, inclusiv videoclipuri pornografice sau scene de natură ilegală. Aceste materiale pot fi folosite pentru hărțuire, șantaj sau defăimare, afectând grav viața personală și profesională a victimelor.

4. Compromiterea identității digitale

Deepfakes pot fi folosite pentru a compromite identitățile digitale ale persoanelor, creând profiluri false pe rețelele sociale sau alte platforme online. Aceste profiluri pot fi utilizate pentru a obține acces neautorizat la conturi sau pentru a desfășura campanii de phishing extrem de periculoase.

5. Impact psihologic și emoțional

Victimele acestui fenomen pot suferi consecințe psihologice și emoționale severe, inclusiv stres, anxietate și pierderea reputației. Impactul emoțional al vizionării unui videoclip fals compromițător despre sine poate fi devastator și poate afecta individul pe toate planurile vieții sale.

Ce să faci dacă ești victima unui Deepfake?

1. Documentează conținutul

Poți salva copii ale conținutului, iar dacă nu îl poți salva, încearcă să faci un printscreen pentru a avea dovada acestuia. De asemenea, îți poți nota undeva câteva informații relevate despre contul care a postat conținutul în cauză. Documentarea acestuia este esențială pentru demersurile legale următoare.

2. Raportează conținutul

Majoritatea platformelor de socializare au reguli strice în ceea ce privește Deepfakes, astfel încât utilizatorii care sesizează acest tip de conținut să îl poată raporta cu ușurință, spre a fi sancționat și înlăturat.

3. Comunică transparent

Dacă un Deepfake poate avea potențialul de a-ți afecta cariera, imaginea sau relațiile personale, comunică deschis cu cei din jurul tău și explică-le situația. Poate fi un proces complicat deoarece mulți oameni nu cunosc sau nu pot să creadă și să înțeleagă gravitatea acestui fenomen. Totuși, explicarea contextului și a propriei versiuni poate oferi încredere celorlalți și poate diminua impactul negativ.

4. Protejează-ți informațiile personale

În era digitală în care trăim este foarte ușor să devenim țintele hackerilor, virușilor și a oricăror alte forme de amenințări asupra securității noastre cibernetice. În urma unui incident cu Deepfakes, este important să fii mai precaut în ceea ce privește dezvăluirea informațiilor tale în mediul online.

5. Contactează autoritățile și cere ajutor specializat

Dacă situația devine cu adevărat serioasă este indicat să anunți autoritățile. În cazurile grave, unde Deepfake poate defăima sau hărțui în orice fel identitatea unei persoane, este important să lăsăm autoritățile să intervină. De asemenea, poți apela la un avocat pentru a-ți afla opțiunile legale disponibile în acest sens.

Sfaturi pentru a nu fi păcălit de Deepfakes

1. Nu crede tot ce vezi în online

Acum că ești conștient de existența fenomenului Deepfake, încearcă să fii mai sceptic față de ceea ce ți se prezintă în mediul online. Pe internet există o mulțime de materiale și informații, dar asta nu înseamnă că toate sunt adevărate sau bine intenționate. Este important să analizezi conținuturile video, audio și text înainte de a le accepta ca fiind reale.

2. Caută semne ale manipulării materialelor media

Dacă observi anumite discrepanțe între mișcările gurii și sunet, expresii faciale care nu par naturale sau alte indicii care te-ar putea duce cu gândul la DeepFake, s-ar putea să ai dreptate. Deși aceste materiale pot fi foarte subtile și sofisticate, cu puțin antrenament sau ajutor poți ajunge să le depistezi singur.

3. Verifică mereu sursa

Sursa unui videoclip, text sau a unei imagini poate spune multe. De asemenea, platforma unde este distribuită informația sau materialul respectiv este extrem de importantă. Ia în considerare contextul și toate informațiile pe care le poți găsi despre sursă. De asemenea, când verifici o informație, nu te baza pe o singură sursă. Încearcă să consulți cât mai multe surse de încredere.

4. Învață despre DeepFake

Încearcă să te documentezi cât mai mult și să afli cât mai multe informații despre acest fenomen. Cu cât îl înțelegi mai bine, cu atât ai mai multe șanse să identifici falsurile.

Avantajele fenomenului Deepfake

Deși prezintă o multitudine de riscuri și provocări, tehnologia Deepfake poate fi folosită și în scopuri pozitive. Deepfake poate fi extrem de benefic pentru industria cinematografică, prin crearea unor efecte speciale impresionante, pentru a susține cazurile în care anumiți actori au probleme de sănătate sau alte implicații și nu pot ajunge la filmări, dar și pentru a readuce pe marile ecrane actori renumiți care au decedat sau anumite personaje istorice importante. De asemenea, Deepfake poate înflori și în cazul industriei publicității, unde se pot crea campanii inovatoare și de succes. În cazul experiențelor de realitate virtuală (VR) și realitate augmentată (AR) sau în jocuri, simulări de antrenament și aplicații de divertisment, Deepfake poate oferi utilizatorilor o experiență imersivă și mai realistă.

Bibliografie

Karnouskos S. (2020). Artificial intelligence in digital media: the era of Deepfakes. IEEE Journals & Magazine. https://ieeexplore.ieee.org/do...

Pesetski, A. (2020). Deepfakes: a new content category for a digital age. William & Mary Law School Scholarship Repository. https://scholarship.law.wm.edu...

Fletcher, J. (2018). Deepfakes, artificial intelligence, and some kind of dystopia: the new faces of online Post-Fact performance. Theatre Journal, 70(4), 455–471. https://doi.org/10.1353/tj.201...

Directoratul Național de Securitate Cibernetică. (2024). DeepFake: manipulat sau informat?. Directoratul Național de Securitate Cibernetică. https://dnsc.ro/vezi/document/...