Lūk, kā ar AI darbināms dziļais viltotais audio var jūs apmānīt

Pateicoties mākslīgā intelekta (AI) sasniegumiem, jūs nevarat uzticēties vārdiem, ko dzirdat.

A nesenais pētījums parāda to dziļi viltots audio var maldināt cilvēkus klausītājus aptuveni 25 procentus laika. Tā ir daļa no augoša viļņa AI ģenerēti dziļi viltojumi rada bažas par faktu nošķiršanu no daiļliteratūras.

"Agrāk bija tā, ka "redzēt ir ticēt", Nasirs Memons, IEEE stipendiāts un datorzinātņu un inženierzinātņu profesors NYU Tandons, stāstīja Lifewire e-pasta intervijā. "Tagad, izmantojot dziļos viltojumus, tā vairs nav taisnība. Identitātes jēdziens sabiedrībā ir svarīgs. Identitāte ir būtiska saziņai un sadarbībai ar citiem cilvēkiem, un mēs saistām identitāti ar audio funkcijām."

Dziļi viltojumi, kas apmāna lietotājus

Acīmredzot audio dziļos viltojumus kļūst grūtāk noteikt. Pētījumā, kas tika veikts Londonas Universitātes koledžā, vairāk nekā 500 brīvprātīgo pārbaudīja dziļi viltotu un īstu balsu kombināciju angļu un mandarīnu valodā. Daži dalībnieki iepriekš bija pakļauti dziļi viltotiem balss paraugiem, lai palīdzētu identificēt. Vidēji dalībnieki pareizi identificēja dziļos viltojumus 73 procentus gadījumu neatkarīgi no viņu apmācības.

"Audio dziļi viltojumi var būt ļoti pārliecinoši un jau tagad tiek uzlaboti katru dienu." Šons Surbers, Kiberdrošības uzņēmuma tehniskā konta pārvaldības vecākais direktors Tanijs teikts e-pastā. "Attīstoties AI tehnoloģijai, šis skaitlis, visticamāk, pieaugs, palielinot iespējamos riskus, kas saistīti ar viltotu uzdošanos."

Kibernoziedznieki var izmantot dziļu viltotu audio, lai izveidotu fiktīvas identitātes, kuras var būt grūti izsekot, Stjuarts Velss, identitātes verifikācijas eksperts un galvenais tehnoloģiju speciālists plkst Korporācija Jumio, teikts pa e-pastu. Tāpat noziedznieks var veikt kontu pārņemšanu, apdraudot bankas kontu, biznesa e-pasta kontu un citu esošo lietotāju kontu drošību.

"Nenojaušam upurim dziļu viltotu audio var būt grūti noteikt, taču, ja to analizē mašīna mācību modeļi, kas izstrādāti šim mērķim, tas nebūt nav atšķirams no cilvēka ģenerētas runas. viņš pievienoja. "Novērtējot runu veidojošo anatomiju, ir iespējams noteikt izcelsmi, neatkarīgi no tā, vai tas ir cilvēks vai mašīna."

Vēl viens audio dziļo viltojumu risks ir politiska iejaukšanās, destabilizējot vai izjaucot vēlēšanas, atzīmēja Memons.

"Niksons būtībā tika apsūdzēts, pamatojoties uz balss ierakstiem," viņš piebilda. "Tie bija īsti ieraksti, taču varat iedomāties, kas būtu iespējams ar dziļu viltotu audio."

Deepfake audio, iespējams, mūs nenolems

Ne visi dziļi viltotie audio noteikti ir ļauni nodomi. Piemēram, varat to izmantot, "lai ierakstītu, kā pārsteiguma dāvana mīļotajam saka kaut ko līdzīgu: "Es tevi mīlu". Mac Steer, tehnoloģiju uzņēmuma īpašnieks Simificēt teikts e-pastā.

Izmanto Google Play un Apple Books AI radītas balsis par viņu audio saturu. Izdevēji pakalpojumā Google Play var izveidot audiogrāmatas ar automātisku stāstījumu, ja vien viņiem pieder tiesības uz audiogrāmatu un viņi izvēlas automātisko stāstījumu.

Dziļās viltošanas audio problēma pieaugs, tostarp politiskajā komunikācijā, Džons V. Pavļiks, žurnālistikas un mediju studiju profesors plkst Rutgers universitāte, prognozēts e-pastā. Viņš teica, ka dziļi viltots audio, visticamāk, kļūs izplatīts tiešsaistē, īpaši sociālajos un interaktīvos plašsaziņas līdzekļos.

"Personām būs pastāvīgi jāsaglabā kritiska perspektīva," viņš piebilda. "Un ikreiz, kad viņi sastopas ar kaut ko aizdomīgu, būs jāpieņem, ka tas ir dziļš viltojums tā autentiskumu var pārbaudīt atsevišķi un neatkarīgi, parasti izmantojot uzticamus ziņu mediju avotus.

Taču ir cerība, ka dziļi viltots audio varētu mūs nenolemt nepatiesas informācijas nākotnei. Cilvēki var automātiski nenoticēt dziļiem viltotiem audio ierakstiem par politisku dalībnieku, kuram viņi dod priekšroku, it īpaši, ja tas nāk no diskreditēta avota, Subramanams Vincents, Markkula Lietišķās ētikas centra žurnālistikas un mediju ētikas direktors plkst Santa Clara universitāte, atzīmēts e-pastā. Viņš teica, ka pat tad, kad dziļi viltojumi izplatās, tie var atrasties tikai tiešsaistes forumos, kas atbilst stāstījumam.

"Faktiskās tiesas vai citas uz faktiem balstītas procesuālās institūcijas, kas darbojas saskaņā ar noteikumiem un lēnāku ātrumu darbības ir salīdzinoši izolētāki lēmumu pieņemšanā nekā līdzdalības pūļi tiešsaistē," viņš pievienots. "Īsāk sakot, sagaidiet, ka turpināsies kaķa un peles bruņošanās sacīkstes un dziļi viltus mediju cīņas, labiem aktieriem ietekmējot izplatīšanu un sliktiem aktieriem, kas mēģinās viņus gūt."