Näin tekoälyllä toimiva Deepfake Audio voi huijata sinua

Et voi luottaa kuulemiisi sanoihin tekoälyn (AI) edistymisen ansiosta.

A tuore tutkimus osoittaa sen syvä väärennetty ääni voi pettää ihmiskuuntelijoita noin 25 prosenttia ajasta. Se on osa kasvavaa aaltoa Tekoälyn luomat syväväärennökset aiheuttaa huolta tosiasian erottamisesta fiktiosta.

"Aiemmin oli niin, että "näkeminen on uskomista". Nasir Memon, IEEE-stipendiaatti ja tietojenkäsittelytieteen ja -tekniikan professori NYU Tandon, kertoi Lifewire sähköpostihaastattelussa. "Nyt syväväärennösten kanssa se ei ole enää totta. Identiteetti on tärkeä yhteiskunnassa. Identiteetti on välttämätön kommunikointiin ja yhteistyöhön muiden ihmisten kanssa, ja yhdistämme identiteetin ääniominaisuuksiin."

Deepfakes jotka huijaavat käyttäjiä

Äänen syväväärennöksiä on ilmeisesti vaikeampi havaita. University College Londonissa tehdyssä tutkimuksessa yli 500 vapaaehtoista arvioi yhdistelmää syvästi väärennettyjä ja aitoja ääniä englanniksi ja mandariiniksi. Jotkut osallistujat olivat aiemmin altistuneet syvälle väärennetyille ääninäytteille tunnistamisen helpottamiseksi. Keskimäärin osallistujat tunnistivat syväväärennökset oikein 73 prosenttia ajasta heidän koulutuksestaan ​​riippumatta.

"Äänen syväväärennökset voivat olla erittäin vakuuttavia ja ne paranevat jo joka päivä." Shawn Surber, Kyberturvallisuusyrityksen teknisen tilinhallinnan johtaja Tanium sanoi sähköpostissa. "Tekoälytekniikan kehittyessä tämä luku todennäköisesti nousee, mikä lisää potentiaalisia riskejä, jotka liittyvät syvään jäljittelemiseen."

Kyberrikolliset voivat käyttää syvää väärennettyä ääntä luodakseen kuvitteellisia identiteettejä, joita voi olla vaikea jäljittää, Stuart Wells, henkilöllisyyden todentamisasiantuntija ja teknologiajohtaja osoitteessa Jumio Oyj, sanoi sähköpostitse. Lisäksi rikollinen voi tehdä tilien haltuunottoja, jotka uhkaavat pankkitilien, yrityssähköpostitilien ja muiden olemassa olevien käyttäjien turvallisuutta.

"Aavistamattomalle uhrille syväfake-ääntä voi olla vaikea havaita, mutta koneella analysoituna tähän tarkoitukseen suunnitellut oppimismallit, se ei ole läheskään erottamaton ihmisen tuottamasta puheesta." hän lisäsi. "Arvioimalla puhetta luovaa anatomiaa on mahdollista tunnistaa alkuperä, oli se sitten ihminen tai kone."

Toinen äänen syväväärennösten vaara on poliittinen puuttuminen epävakauttavien tai suistuvien vaalien kautta, Memon huomautti.

"Nixon syytettiin pääasiassa esimerkiksi äänitallenteiden perusteella", hän lisäsi. "Ne olivat oikeita äänitteitä, mutta voitte kuvitella, mikä olisi mahdollista syvän fake-äänen kanssa."

Deepfake-ääni ei ehkä tuomitse meitä

Kaikki syväfake-äänet eivät välttämättä ole pahantahtoisia. Voit esimerkiksi käyttää sitä "nauhoittamaan itsesi sanomassa jotain "rakastan sinua" rakkaalle yllätyslahjaksi." Mac Steer, teknologiayrityksen omistaja Yksinkertaistaa sanoi sähköpostissa.

Google Play ja Apple Books käyttävät Tekoälyn luomat äänet äänisisällön vuoksi. Google Playn julkaisijat voivat luoda automaattisesti kerrottuja äänikirjoja, kunhan he omistavat äänikirjan oikeudet ja valitsevat automaattisen selostuksen.

Deepfake-äänen ongelma kasvaa, myös poliittisessa viestinnässä, John V. Pavlik, journalismin ja mediatutkimuksen professori klo Rutgersin yliopisto, ennustettiin sähköpostissa. Hän sanoi, että syväfake-äänestä tulee todennäköisesti yleistä verkossa, erityisesti sosiaalisessa ja interaktiivisessa mediassa.

"Henkilöiden on säilytettävä jatkuvasti kriittinen näkökulma", hän lisäsi. "Ja aina kun he kohtaavat jotain epäilyttävää, on välttämätöntä olettaa, että se on syvä väärennös sen aitous voidaan varmistaa erikseen ja itsenäisesti, tyypillisesti luotettavien uutismedialähteiden kautta."

Mutta on toivoa, että syväfake-ääni ei ehkä tuomitse meitä väärän tiedon tulevaisuuteen. Ihmiset eivät välttämättä automaattisesti usko syvään väärennettyä ääntä poliittisesta toimijasta, jota he suosivat, varsinkaan jos se on peräisin huono-arvoisesta lähteestä, Subramaniam Vincent, Markkulan soveltavan etiikan keskuksen journalismin ja mediaetiikan johtaja Santa Claran yliopisto, todettiin sähköpostissa. Hän sanoi, että vaikka syväväärennökset leviäisivät, ne saattavat olla vain verkkofoorumeilla, jotka sopivat tarinaan.

"Varsinaiset tuomioistuimet tai muut faktoihin perustuvat menettelylliset instituutiot, jotka toimivat säännöillä ja hitaammin toiminta on suhteellisen eristyneempi päätöksenteossa kuin osallistuva joukko verkossa", hän lisätty. "Lyhyesti sanottuna, odota kissan ja hiiren asevarustelun ja syvän väärennösmediaan perustuvien taistelujen jatkuvan, jolloin hyvät näyttelijät vaikuttavat jakeluun ja huonot näyttelijät yrittävät voittaa heitä."