Eksperdid ütlevad, et Facebooki Deepfake Tech ei päästa meid
- Kuna süvavõltsinguid on lihtsam teha, on uued ja täiustatud viisid nende tuvastamiseks muutunud prioriteediks.
- Facebooki sügavvõltsingu tuvastamise tehnoloogia kasutab pöördmasinõpet, et teha kindlaks, kas video on sügavvõltsing või mitte.
- Eksperdid ütlevad, et plokiahela tehnoloogia kasutamine oleks parim viis näha, kas video on ehtne või mitte, kuna meetod tugineb kontekstiandmetele.
Getty Images
Facebook on omas kindel masinõppemudel süvavõltsingute vastu võitlemiseks, kuid eksperdid ütlevad, et masinõpe üksi ei päästa meid sügavvõltsingute petmise eest.
Ettevõtted nagu Facebook, Microsoft ja Google kõik töötavad sügavvõltsingute vastu võitlemise nimel veebis ja sotsiaalvõrgustikes levimast. Kuigi meetodid on erinevad, on nende valevideote tuvastamiseks üks potentsiaalne lollikindel meetod: plokiahelad.
"[Blockchains] annab teile lihtsalt palju potentsiaali sügavvõltsimise kinnitamiseks viisil, mis on parim valideerimisvorm, mida ma näen," Stephen Wolfram, ettevõtte asutaja ja tegevjuht. Wolframi uurimine ja autor Uut tüüpi teadus, ütles Lifewire'ile telefoni teel.
Facebooki Deepfake-Spotting Tech
Deepfake tehnoloogia on viimastel aastatel kiiresti kasvanud. Eksitavad videod kasutavad masinõppemeetodeid, et teha näiteks kellegi näo kandmine teise inimese kehale, muuta taustatingimusi, võlts huulte sünkroonimine ja palju muud. Need ulatuvad kahjututest paroodiatest kuni kuulsuste või avaliku elu tegelaste panemiseni ütlema või tegema midagi, mida nad pole teinud.
Eksperdid väidavad, et tehnoloogia areneb kiiresti ja sügavvõltsingud muutuvad veenvamaks (ja hõlpsamini loodavad), kui tehnoloogia muutub laiemalt kättesaadavaks ja uuenduslikumaks.
ApolitikNow / Flickr / CC By 2.0
Facebook andis hiljuti koostöös Michigani osariigi ülikooliga põhjalikuma ülevaate oma süvavõltsingute tuvastamise tehnoloogiast. Sotsiaalvõrgustik väidab, et tugineb pöördprojekteerimisele alates ühest tehisintellekti loodud kujutisest kuni selle tootmiseks kasutatud generatiivse mudelini.
Facebookiga töötanud teadlased ütlesid, et meetod põhineb unikaalsete mustrite avastamisel sügava võltsimise genereerimiseks kasutatud AI mudeli taga.
„Üldistades kujutise omistamise avatud tuvastusega, saame järeldada rohkem teavet selle kohta generatiivne mudel, mida kasutatakse sügava võltsimise loomiseks, mis ületab äratundmise, et seda pole nähtud enne. Ja jälitades süvavõltsingute kollektsiooni mustrite sarnasusi, saame ka teada, kas pildiseeria tekkis ühest allikast," kirjutasid uurijad Xi Yin ja Tan Hassner Facebooki blogipostituses selle sügava võltsingu tuvastamise kohta. meetod.
Wolframi sõnul on mõistlik, et kasutaksite täiustatud tehisintellekti mudeli (deepfake) tuvastamiseks masinõpet. Tehnoloogias on aga alati ruumi petta.
"Ma ei ole üldse üllatunud, et [sügavate võltsingute tuvastamiseks] on korralik masinõppe viis," ütles Wolfram. "Ainus küsimus on selles, et kui pingutate piisavalt, kas saate selle ära petta? Olen kindel, et saate."
Võitlus sügavvõltsingutega erineval viisil
Selle asemel ütles Wolfram, et ta usub, et plokiahela kasutamine oleks parim võimalus teatud tüüpi süvavõltsingute tuvastamiseks. Tema arvamus plokiahela kasutamisest masinõppe asemel ulatub 2019. aastasse ja ta ütles, et lõppkokkuvõttes võib plokiahela lähenemisviis pakkuda meie sügavvõltsimisprobleemile täpsemat lahendust.
"Ma eeldan, et piltide ja videote vaatajad saavad regulaarselt kontrollida plokiahelate (ja andmete triangulatsiooni) olemasolu arvutused") natuke nagu see, kuidas veebibrauserid nüüd turvasertifikaate kontrollivad," kirjutas Wolfram ühes artiklis avaldatud ajakirjas Scientific American.
Kuna plokiahelad salvestavad andmeid plokkidesse, mis seejärel kronoloogilises järjekorras aheldatakse, ja kuna detsentraliseeritud plokiahelad on muutumatud, on sisestatud andmed pöördumatud.
"Ainus küsimus on selles, et kui pingutate piisavalt, kas suudate seda lollitada? Olen kindel, et saate."
Wolfram selgitas, et video plokiahelasse panemisel näete videole kulunud aega, asukoht ja muu kontekstuaalne teave, mis võimaldab teil öelda, kas seda on muudetud tee.
"Üldiselt, kui teil on rohkem metaandmeid, mis pilti või videot kontekstualiseerivad, seda tõenäolisemalt saate seda öelda," ütles ta. "Te ei saa plokiahelas aega võltsida."
Wolfram ütles aga, et kasutatav meetod – olgu selleks masinõpe või plokiahela kasutamine – sõltub sellest, millist süvavõltsimist proovite. eest kaitsma (st video, kus Kim Kardashian ütleb midagi rumalat, või video poliitikust avalduse või soovitus).
"Plokiahela lähenemisviis kaitseb teatud tüüpi sügavate võltsingute eest, nagu masinõppega pilditöötlus kaitseb teatud tüüpi sügavate võltsingute eest," ütles ta.
Põhimõte näib olevat meie kõigi valvsus eelseisva sügava võltsveeuputuse vastu võitlemisel.