Asiantuntijat sanovat, että Facebookin Deepfake Tech ei pelasta meitä

Facebook luottaa siihen koneoppimismalli syväväärennösten torjuntaan, mutta asiantuntijat sanovat, että koneoppiminen yksinään ei pelasta meitä syväväärennösten huijauksesta.

Yritykset, kuten Facebook, Microsoft ja Google kaikki työskentelevät taistellakseen syväväärennöksiä vastaan leviämästä verkossa ja sosiaalisessa mediassa. Vaikka menetelmät vaihtelevat, on olemassa yksi mahdollinen idioottivarma tapa havaita nämä väärät videot: lohkoketjut.

"[Blockchains] antaa sinulle paljon mahdollisuuksia validoida syväfake tavalla, joka on paras näkemäni validointimuoto", Stephen Wolfram, perustaja ja toimitusjohtaja

Wolfram tutkimus ja kirjoittaja Uudenlainen tiede, kertoi Lifewirelle puhelimessa.

Facebookin Deepfake-Spotting Tech

Deepfake-tekniikka on kasvanut nopeasti muutaman viime vuoden aikana. Harhaanjohtavissa videoissa käytetään koneoppimismenetelmiä esimerkiksi kasvojen asettamiseen toisen kehon päälle, taustaolosuhteiden muuttamiseen, väärennettyjen huulien synkronointia ja paljon muuta. Ne vaihtelevat harmittomista parodioista julkkisten tai julkisuuden henkilöiden saamiseen sanomaan tai tekemään jotain, mitä he eivät ole tehneet.

Asiantuntijat sanovat, että tekniikka kehittyy nopeasti ja että syväväärennökset tulevat vain vakuuttuneemmiksi (ja helpommiksi luotaviksi), kun teknologiasta tulee laajemmin saatavilla ja innovatiivisempi.

Facebook antoi äskettäin enemmän tietoa syväväärennösten havaitsemisteknologiastaan ​​yhteistyössä Michigan State Universityn kanssa. Sosiaalinen verkosto kertoo tukeutuvansa käänteiseen suunnitteluun yhdestä tekoälyn luomasta kuvasta sen tuottamiseen käytettyyn generatiiviseen malliin.

Facebookin kanssa työskennelleet tutkijat sanoivat, että menetelmä perustuu syvän väärennöksen luomiseen käytetyn tekoälymallin ainutlaatuisten kuvioiden paljastamiseen.

"Yleistämällä kuvan attribuutio avoimeen tunnistukseen, voimme päätellä lisää tietoa generatiivinen malli, jota käytetään luomaan syvä väärennös, joka ylittää sen tunnistamisen, ettei sitä ole nähty ennen. Ja jäljittämällä yhtäläisyyksiä syvän väärennösten kokoelman kuvioista, voimme myös kertoa, onko kuvasarja peräisin yhdestä lähteestä", kirjoittivat tutkijat Xi Yin ja Tan Hassner Facebookin blogikirjoituksessaan sen syvästä väärennösspotista. menetelmä.

Wolfram sanoo, että on järkevää käyttää koneoppimista havaitaksesi edistyneen AI-mallin (deepfake). Tekniikassa on kuitenkin aina tilaa huijata.

"En ole ollenkaan yllättynyt siitä, että on olemassa kunnollinen koneoppimistapa [havaita syvät väärennökset]", Wolfram sanoi. "Ainoa kysymys on, jos ponnistelet tarpeeksi, voitko huijata sen? Olen varma, että pystyt."

Deepfakesia vastaan ​​eri tavalla

Sen sijaan Wolfram sanoi, että hän uskoo, että lohkoketjun käyttö olisi paras vaihtoehto tietyntyyppisten syväväärennösten havaitsemiseksi tarkasti. Hänen mielipiteensä lohkoketjun käytöstä koneoppimisen sijaan juontaa juurensa vuoteen 2019, ja hän sanoi, että viime kädessä lohkoketju-lähestymistapa voi tarjota tarkemman ratkaisun syväfake-ongelmaamme.

"Odotin, että kuvien ja videoiden katsojat voisivat rutiininomaisesti tarkistaa lohkoketjujen (ja" datan kolmiomittauksen) varalta. computations') vähän kuin se, kuinka verkkoselaimet nyt tarkistavat suojausvarmenteita", Wolfram kirjoitti artikkelissa julkaistu Scientific American -lehdessä.

Koska lohkoketjut tallentavat tiedot lohkoihin, jotka sitten ketjutetaan yhteen kronologisessa järjestyksessä, ja koska hajautetut lohkoketjut ovat muuttumattomia, syötetyt tiedot ovat peruuttamattomia.

Wolfram selitti, että laittamalla videon lohkoketjuun, voit nähdä sen kuluneen ajan, sijainti ja muut kontekstuaaliset tiedot, joiden avulla voit kertoa, onko sitä muutettu tapa.

"Yleensä, jos sinulla on enemmän metadataa, joka mahdollistaa kuvan tai videon kontekstualisoinnin, sitä todennäköisemmin pystyt kertomaan sen", hän sanoi. "Et voi väärentää aikaa lohkoketjussa."

Wolfram kuitenkin sanoi, että käytetty menetelmä – olipa kyseessä koneoppiminen tai lohkoketjun käyttö – riippuu siitä, minkä tyyppistä syväväärennöstä yrität. suojautua vastaan ​​(eli video, jossa Kim Kardashian sanoo jotain typerää tai video poliitikosta lausunnossa tai ehdotus).

"Blockchain-lähestymistapa suojaa tietyn tyyppisiltä syvällisiltä väärennöksiltä, ​​aivan kuten koneoppiva kuvankäsittely suojaa tietyiltä syvällisiltä väärennöksiltä", hän sanoi.

Tärkeintä näyttää olevan meidän kaikkien valppaus taistelussa tulevaa syvää väärennettyä tulvaa.