Copleșiți de Covid n-am prea observat celelalte pandemii, la fel de adevărate și ele, „epoca post-adevăr” în care trăim de câțiva ani, „corectitudinea politică” și poate încă și mai periculoasă, „deep fake-urile”. Nu sunt simple cuvinte ci boli dure și contagioase. De aceea, cu gândul la sănătatea noastră care contează, am și ales acest subiect…
… La început a fost un amuzament online. O prezentatoare TV din Coreea de Sud (Kim Joo-Ha) și-a făcut anul trecut un Deepfake (DF), a făcut un interviu cu „noua ea”, ba chiar a pus-o pe replica ei să o înlocuiască de câteva ori la citirea știrilor. Câțiva actorii s-au transformat pentru a-l imita pe Jon Snow (Game of Thrones) cerându-și scuze pentru ultimul sezon, pentru a arăta ca niște profesioniști ai dansului din sau „intrând” în scene din filmele lor preferate și încărcând selfie-uri cu fața lor în locul unui actor…
Și totuși DF-urile par efectiv stranii, și astfel îngrijorătoare. Mai mult, neputând să le identificăm, ele sunt și neliniștitoare. Pur și simplu nu ne place să fim înșelați de filmări care par reale, dar (știm) sunt false? Suntem îngrijorați de implicațiile unei tehnologii care permite practic oricui să fabrice imagini convingătoare ale altora pentru a-i reprezenta ca făcând sau spunând aproape orice dorește producătorul? Sau există o problemă mai profundă cu tehnologia în sine? DF-urile, la bine și la rău, sunt aici pentru a rămâne: aplicațiile care le folosesc sunt disponibile pe scară din ce în ce mai largă. Dar ce este atât de ciudat laDF? Șice ar trebui să facem în privința acestei noi și ciudate tehnologii?
Adversitatea noastră față de DF implică două aspecte: sentimentul straniu de a fi martor la ceva anormal și sentimentul neliniștitor de a fi înșelat de propriii ochi. Și înDF există ceva înfiorător: oamenii apar în moduri ușor „off”. Primele videoclipuri DF conțineau modele nenaturale de clipire a ochilor, de exemplu, pe care spectatorii nu le observau conștient. Doar „simțeau” că ceva ciudat se întâmplă. În DF-urile actuale filmările arată și sună ca materiale autentice dar apare un alt element: putem avea cu adevărat încredere în ceea ce urmărim? Aceasta este cealaltă parte a sentimentului neliniștii pe care o trezesc DF-urile cu filmări care arată prea realist:nu mai putem crede în ce vedem cu proprii noștri ochi. După ce încrederea în fiabilitatea videoclipurilor și imaginilor a fost subminată de Photoshop și de alte forme de manipulare, potențialul tehnologiei DF de a îmbunătăți continuu caracterul convingător al înregistrărilor neautentice prin învățarea automată, aprofundează preocuparea față de reaua intenție. Nu numai că tehnologia DF poate reprezenta în mod realist imaginea și vocea oamenilor, dar permite și uzurparea identității în timp real. Nu putem presupune că persoana pe care o vedem sau auzim în filmările digitale este cine presupunem că este, chiar dacă parcă am interacționa cu ea.
Sentimentul de neliniște pe care îl evocă anumite DF-uri nu pare suficient pentru a le respinge cu totul! În fond, sunt companii, de ex., care lucrează la tehnici DF pentru a „restaura” vocile persoanelor care nu pot vorbi, din cauza unor afecțiuni, reconstruind sintetic înregistrări vechi pentru a le „clona vocea”. TehnicileDF pot fi, de asemenea, folosite pentru a ajuta oamenii în doliu, permițându-le să interacționeze cu replicile digitale ale celor dragi decedați. Iar muzeele și școlile pot folosi DF pentru a anima educația și expozițiile, ca în Muzeul Dalí din Florida, unde artistul spaniol a fost practic reînviat pentru a vorbi vizitatorilor printr-un panou interactiv.
Folosirea DF cu rea intenție trebuie însă evaluată și monitorizată. În primul rând pornografia: tehnologiaDF poate introduce, fără a cere consimțământul, poza cuiva în materiale explicit sexuale. Conform unui studiu din 2019, 96% dintre videoclipurile DF disponibile online conțin pornografie DF neconsensuală. Criminalitatea …înflorește și ea: uzurparea identității sau a vocii este folosită de ex. pentru a imita directori executivi și pentru a comanda transferuri bancare mari. Despre impactul DF-urilor asupra politicii, ce să mai spunem? Prin DF se pot influența alegerile sau provoca conflicte internaționale. Pentru că nu doar că ne pot induce în eroare: SIMPLUL FAPT DE A ȘTI CĂ DF EXISTĂ SCADE ÎNCREDEREA GENERALĂ. Pentru că, de ex., pot facilita „cuiva” să-și nege niște greșeli, chiar dacă ele „se văd” clar pe un film…
Și totuși DF pot fi folosite și pentru a face bine. Dacă oamenii doresc, pot recurge la DF pentru a se plasa în anumite situații sau pentru a se angaja în anumite activități sau modalități de exprimare. Totul este ca DF să nu fie folosite cu rea voință. Moralitatea DF depinde de scopurile în care sunt folosite și de acceptul celor care figurează în ele de a fi portretizați în acest fel. DF-urile nu ar trebui, așadar, respinse categoric, deși trebuie urmărite îndeaproape. De ce spun asta? Pentru că ne aflăm într-o eră în care granițele dintre fals și real sunt din ce în ce mai predispuse să se estompeze din cauza evoluțiilor rapide din domeniul inteligenței artificiale, învățării automate și comunicării digitale, DF-urile ne ajută să considerăm acești termeni într-o nouă lumină. DF-urile pot deschide oportunități pentru forme mai „reale” de auto-reprezentare în anumite cazuri prin intervenții artificiale, de exemplu, atunci când vocea pacienților este „restaurată” folosind tehnici DF. Această voce „reînnoită” poate fi de fapt mai autentică decât o voce robotizată a unor dispozitive generatoare de vorbire folosite altfel sau tăcerea care ar fi impusă dacă am devia toate sistemele de comunicații artificiale. DF-urile perturbă astfel categoriile stabilite de înșelăciune și autenticitate. Sentimentul de neliniște pe care îl provoacă acest lucru nu ar trebui să fie considerat un semn care arată că există ceva inerent în neregulă cu această tehnologie, ci ne îndeamnă să reexaminăm dacă sentimentele noastre instincte despre ceea ce este fals și ceea ce este real se potrivesc cu lumea în care trăim astăzi.
Vrem, nu vrem, trăim într-o învolburare de tot felul de epidemii și pandemii. Și, am face bine să învățăm să le recunoaștem și să învățăm NU să ne obișnuim cu ele (pentru că până la urmă ne vor pierde!) ci să ne luptăm cu ele și să le anihilăm. Evident că asta doar dacă Sănătatea Contează. Pentru noi și pentru toți ai noștri…
Prof. Dr. Andrei Dorobanțu, fizician
