Tehnologia deepfake ar putea crea probleme geopolitice / FOTO: Shutterstock.com
Redăm analiza scrisă de Jared Mondschein, Christopher Doss, Conrad Tucker, Valerie Fitton-Kane și Lance Bush.
- Jared Mondschein este cercetător în domeniul științelor fizice la RAND Corporation, organizație non-profit care se ocupă de cercetarea politicilor privind inteligența artificială și dezinformarea.
- Christopher Doss este un cercetător în domeniul politicilor la RAND, specializat în realizarea de studii cauzale și descriptive la intersecția dintre educația timpurie a copiilor și tehnologiile educaționale.
- Conrad Tucker este specialist în inginerie mecanică, biomedicală și robotică la Universitatea Carnegie Mellon.
- Valerie Fitton-Kane este vicepreședinte de Dezvoltare, Parteneriate și Strategie la Challenger Center, un ONG din domeniul științei, tehnologiei, ingineriei și matematicii (STEM).
- Lance Bush este președinte și director executiv la Challenger Center, care a fost fondat în 1986 de către echipajul navetei STS-51L Challenger.
***
Aceste noi produse, împreună cu instrumente similare dezvoltate de alte companii, ar putea oferi progrese semnificative în promovarea următorului val de creatori digitali. În același timp, ele ar putea fi exploatate pentru a crea deepfakes care ar putea avea consecințe economice, sociale și geopolitice neintenționate.
Imaginile și videoclipurile au fost falsificate încă de la primele fotografii. După Războiul Civil, „fotografi ai spiritelor” au pretins că pot capta fotografii ale unor persoane dragi decedate (inclusiv ale președintelui Abraham Lincoln), care au fost dezvăluite în cele din urmă ca fiind niște falsuri de către P. T. Barnum. Dar deepfakes sunt fundamental diferite. Realismul lor, precum și amploarea și ușurința cu care pot fi produse, le transformă în instrumente de dezinformare incredibil de puternice.
Este posibil ca americanii să nu fie pregătiți pentru acest tsunami de deepfakes de la orizont. În cadrul cercetării noastre recente, subiecții au avut dificultăți în a distinge între deepfakes și videoclipurile autentice. Atunci când am repartizat la întâmplare un set de videoclipuri deepfake și autentice la peste 2.000 de persoane și le-am cerut să aleagă deepfake-ul, subiecții noștri au greșit în peste o treime din cazuri. Poate că, în mod nesurprinzător, având în vedere nivelul de cunoaștere a tinerilor americani în materie de social media, elevii de gimnaziu au obținut rezultate mai bune decât adulții, inclusiv decât educatorii responsabili de a-i ajuta să învețe abilități cheie pentru a evita dezinformarea online. Chiar și studenții la informatică de la o universitate de inginerie de top din SUA au fost susceptibili: aceștia nu au reușit să deosebească falsurile de videoclipurile autentice în mai mult de 20 % din cazuri.
Aceasta ar putea fi o vulnerabilitate uriașă care ar putea fi exploatată pentru a răspândi dezinformarea. În timpul etapelor inițiale ale invaziei rusești în Ucraina, a circulat un deepfake cu președintele ucrainean Volodimir Zelenski care îndemna forțele ucrainene să se predea. Deși acest videoclip a fost dezmințit cu ușurință, este ușor de înțeles cum ar fi putut avea consecințe geopolitice. Și alte deepfakes au avut consecințe în lumea reală, cum ar fi deepfake-ul cu voce generată de IA (inteligență artificială) care a înșelat recent un director executiv din Marea Britanie cu aproape 250.000 de dolari din banii companiei sale.
Reglementarea deepfakes ar putea fi o dilemă pentru factorii de decizie politică din SUA. Mai multe state, printre care Texas, California și Virginia, au adoptat legi care interzic publicarea de deepfakes legate de alegeri sau de pornografie infantilă. Însă reglementările privind alte aplicații ale deepfakes nu sunt luate în considerare în mod activ. Au existat discuții în unele publicații juridice privind protecția Primului Amendament, și anume dacă acesta ar trebui să acopere deepfakes, dar problema nu a fost rezolvată.
Și este prea târziu pentru factorii de decizie politică din Statele Unite sau din UE să pună frână dezvoltării și comercializării tehnologiilor deepfake. Chiar dacă firmelor li s-ar interzice cumva să avanseze în acest domeniu, tehnologia deepfake este deja în libertate. Programatorii începători pot folosi cu ușurință tehnologiile existente pentru a crea deepfakes convingătoare, iar dușmanii geopolitici ai Occidentului au făcut progrese constante pe cont propriu.
Tehnologia ar putea oferi un anumit ajutor în detectarea falsurilor, dar deja se desfășoară o cursă a înarmării tehnologice între generatorii de falsuri și detectoarele automate, iar generatorii de falsuri câștigă. Cercetările noastre au arătat că indivizii ar putea fi mai capabili să identifice mai bine deepfakes de videoclipurile autentice dacă înțeleg contextul social al unui videoclip. Cu toate acestea, America ar putea avea nevoie de un efort concertat pentru a avansa soluții politice, sociale și tehnice scalabile. În caz contrar, publicul s-ar putea trezi înecat într-o avalanșă de deepfakes, cu consecințe potențial dezastruoase.
