Kako bi se Appleova značajka glasa uživo mogla koristiti za prijevare s kloniranjem glasa
- Appleov novi softver omogućit će vam kloniranje glasa na iPhoneu i iPadu.
- Tehnologija je namijenjena za pomoć korisnicima koji ne govore ili su u opasnosti od gubitka te sposobnosti.
- No stručnjaci kažu da tehnologija kloniranja glasa može pomoći u prijevari i izazvati zabunu.
Westend61 / Getty Images
Vaš iPhone i iPad uskoro će vam omogućiti kloniranje vlastitog glasa, a stručnjaci kažu da bi nova značajka mogla dovesti do još dubljih lažiranja.
Nova značajka Personal Voice će stvoriti glas koji zvuči kao korisnik. Namijenjen je korisnicima koji ne govore ili su u opasnosti da izgube tu sposobnost. Ali tehnologija bi također mogla stvoriti zabunu.
"Ovo bi vrlo brzo moglo postati močvara dubokih krivotvorina posvuda," Vinod Iyengar, stručnjak za umjetnu inteligenciju i voditelj proizvoda u Treći AI, rekao je za Lifewire u intervjuu e-poštom. "Postoji mnogo sustava za autentifikaciju temeljenih na glasovnoj biometriji koji će biti u problemima. Što ako netko koristi glasovni klon za neovlašteni pristup bankovnom računu? Ili ga koristi za širenje dezinformacija."
Vaš glas, ponovno stvoren
Možete stvoriti osobni glas čitanjem zajedno s nasumičnim skupom tekstualnih upita za snimanje 15 minuta zvuka na iPhone ili iPad. Značajka koristi strojno učenje na uređaju kako bi podaci korisnika ostali privatni.
"Na kraju dana, najvažnija stvar je biti u mogućnosti komunicirati s prijateljima i obitelji," Philip Green, koji je doživio značajne promjene u svom glasu otkako je dobio dijagnozu ALS-a, rekao je u Appleovo priopćenje za javnost. "Ako im možete reći da ih volite glasom koji zvuči poput vas, to čini veliku razliku u tome svijet—i mogućnost stvaranja vašeg sintetičkog glasa na vašem iPhoneu u samo 15 minuta je izvanredna."
Alat za prijevare s kloniranjem glasa?
Tehnologija kloniranja glasa kao što je Personal Voice postavlja etička pitanja u vezi s pristankom i mogućom zlouporabom nečijeg glasa bez dopuštenja, Tyler Sweatt, glavni službenik za prihode u tehnološkoj tvrtki Druga fronta, stoji u e-poruci.
"Kloniranje glasa može se koristiti za stvaranje izmišljenog audio sadržaja koji se čini autentičnim, što otežava razlikovanje pravih od lažnih audio zapisa", dodao je.
Prijevare s kloniranjem glasa su u porastu. Stručnjaci upozoravaju tehnologija se može koristiti u zlonamjerne svrhe, poput krađe identiteta, lažnih telefonskih poziva i e-poruka za krađu identiteta. Kriminalci koriste umjetnu inteligenciju kako bi se predstavljali kao netko drugi i prevarili žrtvu da da novac ili osobne podatke.
Kloniranje glasa može se upotrijebiti za stvaranje izmišljenog audiosadržaja koji izgleda kao originalan, što otežava razlikovanje pravih od lažnih audiosnimki.
Prevaranti mogu klonirati glas prijatelja, člana obitelji, šefa ili autoriteta i nazovite žrtvu s hitnim zahtjevom za novac ili pomoć. Alternativno, prevarant bi mogao klonirati glas kupca, dobavljača ili partnera i slati lažne fakture ili zahtjeve za plaćanje putem e-pošte ili telefona. U 2021. najmanje osam starijih građana u Kanadi izgubilo je ukupno 200.000 dolara u očitoj prijevari kloniranja glasa.
Nova tehnologija kloniranja glasa na iPhoneu mogla bi dovesti do neželjenih posljedica, rekao je Iyengar. Istaknuo je da se iPhone pozivi često koriste kao dokazi u pravnim slučajevima.
“Cijelo to područje sada je minsko polje, a vrlo brzo sudovi možda neće prihvatiti glasovne snimke kao dokaz jer bi se lako mogle lažirati”, dodao je.
Osobni glas mogao bi zamagliti granicu između fikcije i stvarnosti. Iyengar je predložio da se glasovni klonovi mogu upariti s AI chatbotovima kako bi djelovali kao "osobni dubler" za sve.
yanyong / Getty Images
Klonirani glas mogao bi "predstavljati osobu i obavljati zadatke u njezino ime poput izrade sastanke, odgovaranje na telefonske pozive, pa čak i video snimke koje je potrebno pročitati iz scenarija,” rekao je Iyengar.
Ako je vaš glas kloniran i koristi ga netko drugi, neizvjesno je hoće li vas pravni sustav zaštititi. Zakoni o "Pravu na publicitet" u SAD-u daju slavnim osobama i drugim poznatim osobama određenu kontrolu nad upotrebom njihovih imena, slike i glasa, Heidi McKee, profesor na Sveučilište Miami, stoji u e-poruci. I, primijetila je, protuzakonito je lažno predstavljati službenika za provođenje zakona ili federalnog službenika.
"No, proširuju li se te zaštite na sve građane SAD-a i na način na koji bi pojedinac mogao lako tražiti odštetu?" rekao je McKee. “Zakon i propisi nisu toliko jasni po tom pitanju. Već smo preplavljeni dezinformacijama i dubokim krivotvorinama, a korištenje kloniranja glasa samo će proširiti te probleme, osobito u kombinaciji s video lažiranjem.”