Štai kaip dirbtinio intelekto sukurtas gilus padirbtas garsas gali jus apgauti

Dėl dirbtinio intelekto (DI) pažangos negalite pasitikėti išgirstais žodžiais.

A neseniai atliktas tyrimas tai rodo giliai padirbtas garsas gali apgauti žmonių klausytojus maždaug 25 procentus laiko. Tai augančios bangos dalis Dirbtinio intelekto sukurtos gilios klastotės kelia susirūpinimą atskirti faktus nuo prasimanymo.

„Anksčiau buvo taip, kad „matyti – tai tikėti“. Nasiras Memonas, IEEE bendradarbis ir kompiuterių mokslo ir inžinerijos profesorius NYU Tandonas, sakė Lifewire interviu el. paštu. „Dabar, naudojant gilius klastojimus, tai nebėra tiesa. Tapatybės samprata visuomenėje yra svarbi. Tapatybė yra būtina norint bendrauti ir bendradarbiauti su kitais žmonėmis, o tapatybę siejame su garso funkcijomis.

Deepfakes, kurios kvailina vartotojus

Akivaizdu, kad garso klastotes aptikti tampa vis sunkiau. Londono universiteto koledže atliktame tyrime daugiau nei 500 savanorių peržiūrėjo padirbtų ir tikrų balsų derinį anglų ir mandarinų kalbomis. Kai kurie dalyviai anksčiau buvo susidūrę su padirbtais balso pavyzdžiais, kad padėtų identifikuoti. Vidutiniškai 73 procentus laiko dalyviai teisingai atpažino gilius klastojimus, nepaisant jų mokymo.

„Garso padirbinėjimai gali būti labai įtikinami ir jau tobulėja kiekvieną dieną“, Shawnas Surberis, Techninių sąskaitų valdymo vyresnysis direktorius kibernetinio saugumo įmonėje Tanis sakė elektroniniame laiške. „Tobulėjant dirbtinio intelekto technologijai, šis skaičius greičiausiai didės, o tai padidins galimą riziką, susijusią su netikru apsimetinėjimu.

Kibernetiniai nusikaltėliai gali naudoti netikrą garsą, kad sukurtų fiktyvias tapatybes, kurias gali būti sunku atsekti, Stuartas Wellsas, tapatybės tikrinimo ekspertas ir vyriausiasis technologijų pareigūnas Korporacija „Jumio“., sakė el. Be to, nusikaltėlis gali užgrobti sąskaitas, keliančias grėsmę banko sąskaitų, verslo el. pašto paskyrų ir kitų, priklausančių esamiems vartotojams, saugumui.

„Neįtariančiai aukai gali būti sunku aptikti netikrą garsą, tačiau jį analizuojant mašina Tam tikslui sukurti mokymosi modeliai toli gražu nesiskiria nuo žmogaus sukurtos kalbos. jis pridėjo. "Įvertinus anatomiją, kuri sukuria kalbą, galima nustatyti kilmę, nesvarbu, ar tai žmogus, ar mašina."

Kitas garso padirbinėjimo pavojus yra politinis kišimasis per destabilizuojančius arba žlugdančius rinkimus, pažymėjo Memonas.

„Pavyzdžiui, Niksonui buvo pareikšta apkalta remiantis balso įrašais“, – pridūrė jis. "Tai buvo tikri įrašai, bet galite įsivaizduoti, kas būtų įmanoma naudojant gilų padirbtą garsą."

Deepfake Garsas gali mūsų nenusmerkti

Ne visi giliai padirbti garsai nebūtinai yra netinkami. Pvz., galite jį naudoti „įrašydami save, kaip staigmeną, mylimam žmogui sakant kažką panašaus į „Aš tave myliu“ „Mac Steer“., technologijų įmonės savininkas Supaprastinti sakė elektroniniame laiške.

Naudoja „Google Play“ ir „Apple Books“. AI sukurti balsai už jų garso turinį. „Google Play“ leidėjai gali kurti automatiškai pasakojamas garsines knygas, jei jiems priklauso garso knygos teisės ir jie pasirenka automatinį pasakojimą.

Gilaus padirbto garso problema išaugs, įskaitant politinę komunikaciją, Jonas V. Pavlikas, žurnalistikos ir žiniasklaidos studijų profesorius Rutgerso universitetas, prognozuojama el. Jis sakė, kad netikras garsas greičiausiai taps įprastas internete, ypač socialinėje ir interaktyvioje žiniasklaidoje.

„Asmenys turės išlaikyti nuolatinį kritišką požiūrį“, – pridūrė jis. „Ir kaskart, kai jie susidurs su kažkuo įtartinu, reikės manyti, kad tai gilus klastotė jo autentiškumą galima patikrinti atskirai ir nepriklausomai, paprastai per patikimus žiniasklaidos šaltinius.

Tačiau yra vilties, kad gilus netikras garsas nepasmerks mūsų melagingos informacijos ateičiai. Žmonės gali automatiškai netikėti netikru garsu apie politinį veikėją, kuriam jie pritaria, ypač jei jis gaunamas iš diskredituoto šaltinio, Subramaniamas Vincentas, Markkula taikomosios etikos centro žurnalistikos ir žiniasklaidos etikos direktorius Santa Klaros universitetas, pažymėta el. Jis sakė, kad net tada, kai padirbiniai plinta, jie gali būti tik internetiniuose forumuose, kurie atitinka pasakojimą.

„Tikrai teismai ar kitos faktais pagrįstos procesinės institucijos, kurios veikia pagal taisykles ir lėčiau veikia santykinai labiau izoliuoti savo sprendimus nei dalyvaujančios minios internete“, – jis pridėta. „Trumpai tariant, tikėkitės, kad tęsis katės ir pelės ginklavimosi varžybos ir suklastotos žiniasklaidos mūšiai – geri aktoriai turės įtakos platinimui, o blogi aktoriai bandys jiems pasisekti.