Ponarejanje videoposnetkov je enostavno, oddaje globoke nostalgije

Bodite previdni pri novi programski opremi, ki lahko ustvari tako imenovane "globoke ponaredke", v katerih je mogoče simulirati videoposnetke resničnih ljudi, opozarjajo strokovnjaki.

Globoka nostalgija, ki ga je izdalo podjetje MyHeritage, je v trendu na družbenih omrežjih, uporabniki pa reanimirajo vse, od znanih skladateljev do mrtvih sorodnikov. Programska oprema vabi mešane reakcije, nekateri so navdušeni nad kreacijami, drugi pa se jim zdijo grozljivi. Tehnologija kaže, kako enostavno je ustvariti videoposnetke ljudi, ki počnejo stvari, ki jih v resničnem življenju niso počeli.

"Tehnologija Deepfake postaja vse bolj izpopolnjena in nevarnejša," Aaron Lawson, pomočnik direktorja SRI International's

Laboratorij za govorno tehnologijo in raziskave (STAR)., je dejal v e-poštnem intervjuju. "To je deloma posledica narave umetne inteligence. Kjer 'tradicionalna' tehnologija zahteva človeški čas in energijo za izboljšanje, se lahko umetna inteligenca uči sama od sebe.

"Toda sposobnost AI, da se razvije, je dvorezen meč," je nadaljeval Lawson. "Če je umetna inteligenca ustvarjena, da naredi nekaj dobronamernega, je super. Toda ko je umetna inteligenca zasnovana za nekaj zlonamernega, kot so globoki ponaredki, je nevarnost brez primere."

Programska oprema oživi fotografije

Genealoško spletno mesto MyHeritage je prejšnji mesec predstavilo motor za animacijo. Tehnologija, znana kot Deep Nostalgia, uporabnikom omogoča animiranje fotografij prek spletnega mesta MyHeritage. Podjetje, imenovano D-ID, je oblikovalo algoritme za MyHeritage, ki digitalno poustvarjajo gibanje človeških obrazov. Programska oprema uporablja premike na fotografijah in spreminja izraze obraza, da se premikajo, kot običajno počnejo človeški obrazi, glede na spletno mesto MyHeritage.

Globoka nostalgija kaže, da postaja globoko ponarejena tehnologija vse bolj dostopna, je v e-poštnem intervjuju dejal Lior Shamir, profesor računalništva na univerzi Kansas State. Hitro napreduje in odpravlja celo subtilne razlike med ponarejenim in resničnim videom in zvokom.

"Poznan je bil tudi napredek v smeri globokih ponaredkov v realnem času, kar pomeni, da se v času video komunikacije ustvarijo prepričljivi globoki ponarejeni videoposnetki," je dejal Shamir. "Na primer, lahko se z določeno osebo sestaneš v Zoomu, medtem ko vidiš in slišiš glas popolnoma druge osebe."

Vse več je tudi jezikovnih globokih ponaredkov, pravi Jason Corso, direktor Stevensov inštitut za umetno inteligenco na Stevens Institute of Technology, je dejal v intervjuju po elektronski pošti. "Ustvarjanje celih odstavkov globokega ponarejenega besedila za določeno agendo je precej težko, vendar sodobni napredek v globoki obdelavi naravnega jezika to omogoča," je dodal.

Kako odkriti globoko ponaredek

Čeprav je tehnologija za odkrivanje globokih ponaredkov še v nastajajoči fazi, obstaja nekaj načinov, kako jo lahko opazite, je dejal Corso, začenši z usti.

"Variabilnost v videzu notranjosti ust, ko nekdo govori, je zelo velika, zato je težko prepričljivo animirati," je pojasnil Corso. »To se da narediti, vendar je težje kot preostanek glave. Upoštevajte, kako videoposnetki Deep Nostalgia ne kažejo zmožnosti, da fotografija med globokim ponarejenim ustvarjanjem reče 'Ljubim te' ali kakšno drugo frazo. To bi zahtevalo odpiranje in zapiranje ust, kar je zelo težko za globoko lažno generacijo."

Ghosting je še ena nagradna igra, je dodal Corso. Če vidite zamegljenost okoli robov glave, je to posledica "hitrega gibanja ali omejenih slikovnih pik, ki so na voljo v izvorni sliki. Uho lahko za trenutek delno izgine ali pa lasje postanejo zamegljeni, kjer ne bi pričakovali," je dejal.

Prav tako lahko pazite na barvne razlike, ko poskušate opaziti globok ponarejen videoposnetek, kot je ostra črta na obrazu, s temnejšimi barvami na eni strani in svetlejšimi na drugi.

"Računalniški algoritmi lahko pogosto zaznajo te vzorce popačenja," je dejal Shamir. "Toda globoki lažni algoritmi hitro napredujejo. Neizogibno je, da bodo potrebni strogi zakoni za zaščito pred globokimi ponaredki in škodo, ki jo lahko zlahka povzročijo."