Google sprijină lupta împotriva videoclipurilor trucate hiperrealiste

86

Videoclipurile „deepfaking”, care prezintă într-un mod realist evenimente care nu s-au întâmplat niciodată sau oameni care spun lucruri pe care nu le-au spus în realitate, ar putea deveni în viitor o metodă foarte eficientă de manipulare, deocamdată neexistând soluţii clare pentru a înlătura această ameninţare.

Săptămâna trecută, Google a făcut publice mii de videoclipuri false, pe care le-a obţinut prelucrând videoclipuri cu actori prin „metode de generare a «deepfake-urilor» care sunt accesibile pentru public”. Scopul acestei acţiuni a fost acela de a ajuta cercetătorii să identifice cu mai mare ușurinţă acest gen de conţinut online.

„Credem cu tărie în susţinerea unei comunităţi de cercetare înfloritoare în jurul atenuării potenţialelor daune cauzate de utilizările abuzive ale inteligenţei artificiale”, au declarat reprezentanţii Google, subliniind că demersul lor este un pas în această direcţie

„Deşi numeroase clipuri «deepfake» sunt concepute în scopuri umoristice, altele ar putea fi dăunătoare pentru indivizi şi societate”, afirmă Nick Dufour, de la Google, şi Andrew Gully, de la Jigsaw, divizia de cercetare din cadrul Alphabet, compania care deţine Google.

Chiar dacă diferenţele dintre un videoclip real și unul trucat sunt în general vizibile, există și montaje „foarte, foarte convingătoare”, spune Hao Li, profesor de tehnologii creative la Universitatea Southern California (USC), estimând că în aproximativ 6 luni aceste tehnologii de producere a clipurilor trucate hiperrealist ar putea deveni accesibile publicului.

Videoclipurile trucate sunt un rezultat al progreselor realizate de inteligenţa artificială, iar asemănarea lor cu videoclipurile reale ameninţă să estompeze tot mai mult graniţa dintre realitate și ficţiune.

La începutul anului, Facebook a refuzat să șteargă de pe reţeaua sa un clip video trucat în care apare șefa Camerei Reprezentanţilor a Statelor Unite, Nancy Pelosi. Facebook a anunţat doar că retrogradează clipul, așa încât acesta să rămână vizibil pentru un număr redus de utilizatori. O analiză mai atentă a videoclipului a arătat că fusese încetinit la 75% din viteza sa normală, pentru a obţine efectele dorite. În ciuda faptului că videoclipul real este accesibil oricui, expertul în criminalistică digitală Hany Farid spune că mai primește și acum e-mailuri în care oamenii insistă că videoclipul trucat este, de fapt, real.

În iunie 2016, a fost trucat un videoclip care îl prezintă pe Mark Zuckerberg vorbind despre controlul internetului. „Imaginaţi-vă asta pentru o clipă – un singur om care are control total asupra datelor furate de la miliarde de oameni, asupra tuturor secretelor lor, asupra vieţilor și viitorului lor”, spune Zuckerberg în clipul trucat. Clipul a fost realizat de doi artiști americani, Bill Posters și Daniel Howe, ajutaţi de Canny AI, un start-up de publicitate din Israel.

Pentru realizarea unui videoclip fals, un calculator performant are nevoie de mii de imagini statice cu o persoană, pentru a ajuta cercetătorii să construiască un model 3D al persoanei. Clipurile false încă deţin indicii care le demască trucajul, precum faptul că persoanele pe care le prezintă nu clipesc niciodată, dar aceste neajunsuri vor fi rapid eliminate de dezvoltarea tehnologiei.

„Dacă m-aţi fi întrebat acum 6 luni, aș fi răspuns: «Da, tehnologia este foarte tare, dar există o mulţime de artefacte și, dacă ești atent, poţi spune probabil că acolo este ceva greșit». Dar aș spune acum că ajungem repede și sigur în punctul în care o persoană obișnuită va avea probleme în a face distincţia”, a declarat Farid.

Ameninţarea vine din faptul că această tehnologie este injectată într-un mediu care mustește deja de dezinformare și de suspiciune, unde există un electorat polarizat, ale cărui convingeri se consolidează într-o manieră nouă, atunci când este expus la clipuri trucate, explică expertul. De fapt, această tehnologie ne introduce într-o lume complet străină, în care nu doar opiniile, ci și faptele sunt diferite, o lume „în care intrăm atunci când nu mai putem crede nimic”.

Grupul de prelucrare a semnalelor multimedia EPFL și start-up-ul Quantum Integrity, cu experienţă în depistarea imaginilor false, au anunţat că lucrează la conceperea unui software cu utilizare largă care să ajute la detectarea videoclipurilor trucate.

„Identificarea imaginilor și a videoclipurilor false reprezintă în mod clar una dintre aplicaţiile prin care inteligenţa artificială ajută la redobândirea încrederii”, a explicat Oliver Crochat, director executiv al Center for Digital Trust.