Deepfake Tech od Facebooku nás nezachráni, hovoria odborníci

Facebook si je istý model strojového učenia na boj proti deepfake, ale odborníci tvrdia, že samotné strojové učenie nás nezachráni pred oklamaním deepfake.

Spoločnosti ako Facebook, Microsoft a Google všetci pracujú na boji proti deepfake pred šírením cez web a sociálne siete. Aj keď sa metódy líšia, existuje jedna potenciálna spoľahlivá metóda na rozpoznanie týchto falošných videí: blockchainy.

„[Blockchains] vám dáva veľa potenciálu overiť deepfake spôsobom, ktorý je tou najlepšou formou overenia, akú vidím,“ Stephen Wolfram, zakladateľ a generálny riaditeľ spoločnosti Wolfram Research a autorom Nový druh vedy, povedal Lifewire po telefóne.

Facebook Deepfake-Spotting Tech

Technológia Deepfake sa za posledných niekoľko rokov rýchlo rozrástla. Zavádzajúce videá využívajú metódy strojového učenia na veci, ako je prekrytie tváre niekoho iného na telo inej osoby, zmena podmienok pozadia, falošná synchronizácia pier a ďalšie. Pohybujú sa od neškodných paródií až po prinútenie celebrít alebo verejných činiteľov povedať alebo urobiť niečo, čo neurobili.

Odborníci tvrdia, že technológia rýchlo napreduje a že deepfakes budú presvedčivejšie (a ľahšie sa vytvoria), keď sa technológia stane dostupnejšou a inovatívnejšou.

Facebook nedávno v spolupráci s Michiganskou štátnou univerzitou poskytol viac informácií o svojej technológii detekcie hlbokých falošných správ. Sociálna sieť tvrdí, že sa spolieha na reverzné inžinierstvo od jedného obrazu vygenerovaného umelou inteligenciou až po generatívny model, ktorý sa používa na jeho výrobu.

Vedci z výskumu, ktorí spolupracovali s Facebookom, uviedli, že metóda sa spolieha na odhalenie jedinečných vzorov za modelom AI, ktorý sa používa na generovanie deepfake.

„Zovšeobecnením priradenia obrázkov na rozpoznávanie otvorenej sady môžeme odvodiť viac informácií o generatívny model používaný na vytvorenie deepfake, ktorý presahuje rozpoznanie, že nebol videný predtým. A sledovaním podobností medzi vzormi zbierky hlbokých falošných správ by sme tiež mohli povedať, či séria obrázkov vznikla z jedného zdroja,“ napísali vedci Xi Yin a Tan Hassner v blogovom príspevku na Facebooku o jeho deepfake-spottingu. metóda.

Wolfram hovorí, že dáva zmysel, že by ste použili strojové učenie na zistenie pokročilého modelu AI (deepfake). Vždy však existuje priestor na oklamanie technológie.

„Vôbec ma neprekvapuje, že existuje slušný spôsob strojového učenia [odhaľovania deepfakes],“ povedal Wolfram. „Jediná otázka je, ak vynaložíte dostatok úsilia, dokážete to oklamať? Som si istý, že môžeš."

Boj proti Deepfakes iným spôsobom

Namiesto toho Wolfram povedal, že je presvedčený, že použitie blockchainu by bolo najlepšou možnosťou na presné zistenie určitých typov deepfakes. Jeho názor na používanie blockchainu pred strojovým učením sa datuje do roku 2019 a povedal, že v konečnom dôsledku môže blockchainový prístup poskytnúť presnejšie riešenie nášho problému s hlbokými falošnými správami.

„Očakával by som, že diváci obrázkov a videí by sa mohli bežne porovnávať s blockchainmi (a ‚trianguláciou údajov computations') trochu ako to, ako teraz webové prehliadače kontrolujú bezpečnostné certifikáty,“ napísal Wolfram v článku publikované v Scientific American.

Keďže blockchainy ukladajú dáta do blokov, ktoré sú následne zreťazené v chronologickom poradí, a keďže decentralizované blockchainy sú nemenné, zadané dáta sú nevratné.

Wolfram vysvetlil, že vložením videa do blockchainu budete môcť vidieť čas, kedy bolo natočené, umiestnenie a ďalšie kontextové informácie, ktoré by vám umožnili zistiť, či boli v nejakom zmenené spôsobom.

„Vo všeobecnosti platí, že čím viac metadát, ktoré zaraďujú obrázok alebo video do kontextu, tým je pravdepodobnejšie, že to budete vedieť povedať,“ povedal. "Na blockchaine nemôžete predstierať čas."

Wolfram však povedal, že použitá metóda – či už je to strojové učenie alebo používanie blockchainu – závisí od typu deepfake, ktorý skúšate. na ochranu pred (t. j. videom Kim Kardashian, ktorá hovorí niečo hlúpe, alebo videom politika, ktorý robí vyhlásenie alebo návrh).

„Blockchainový prístup chráni pred určitými druhmi falzifikátov, rovnako ako spracovanie obrazu pomocou strojového učenia chráni pred určitými druhmi falzifikátov,“ povedal.

Zdá sa, že základom je ostražitosť nás všetkých, pokiaľ ide o boj s prichádzajúcou hlbokou falošnou potopou.