Kaip „Apple“ tiesioginio balso funkcija gali būti naudojama balso klonavimo sukčiavimui

Netrukus jūsų „iPhone“ ir „iPad“ leis klonuoti savo balsą, o ekspertai teigia, kad naujoji funkcija gali paskatinti daugiau klastotės.

Nauja asmeninio balso funkcija sukurs balsą, kuris skamba kaip vartotojas. Jis skirtas vartotojams, kurie nekalba arba gali prarasti šį gebėjimą. Tačiau technologija taip pat gali sukelti painiavą.

„Tai labai greitai gali tapti gilių padirbinių liūnu visur“, Vinodas Iyengaras, AI ekspertas ir produkto vadovas TrečiasAI, sakė Lifewire interviu el. paštu. „Yra daug balso biometriniais duomenimis pagrįstų autentifikavimo sistemų, kurios turės problemų. Ką daryti, jei kas nors naudoja balso kloną, kad gautų neteisėtą prieigą prie banko sąskaitos? Arba naudoja ją dezinformacijai skleisti“.

Jūsų balsas, atkurtas

Galite sukurti asmeninį balsą skaitydami kartu su atsitiktinių imčių rinkiniu teksto raginimais įrašyti 15 minučių garso įrašą „iPhone“ ar „iPad“. Ši funkcija naudoja įrenginio mašininį mokymąsi, kad naudotojų informacija būtų privati.

„Galų gale, svarbiausia yra galimybė bendrauti su draugais ir šeima“, Philipas Greenas, kuris patyrė didelių balso pokyčių po to, kai jam buvo diagnozuota ALS, sakė in Apple spaudos leidimas. „Jei galite pasakyti jiems, kad mylite juos tokiu balsu, kuris skamba kaip jūs, tai labai pasikeis pasaulis, o galimybė sukurti savo sintetinį balsą savo iPhone per 15 minučių yra nepaprasta.

Balso klonavimo sukčiavimo įrankis?

Balso klonavimo technologija, pvz., „Personal Voice“, kelia etinių klausimų dėl sutikimo ir galimo piktnaudžiavimo kieno nors balsu be jo leidimo, Taileris Sweattas, technologijų įmonės vyriausiasis pajamų pareigūnas Antrasis frontas, sakoma el.

„Balso klonavimas gali būti naudojamas kuriant išgalvotą garso turinį, kuris atrodo tikras, todėl sunkiau atskirti tikrus ir netikrus garso įrašus“, – pridūrė jis.

Balso klonavimo sukčiai auga. Specialistai perspėja technologija gali būti naudojama piktybiniams tikslams, pvz., tapatybės vagystės, apgaulingi telefono skambučiai ir sukčiavimo el. laiškai. Nusikaltėliai naudoja dirbtinį intelektą, norėdami apsimesti kitu žmogumi ir apgauti auką, kad ši pateiktų pinigų ar asmeninės informacijos.

Sukčiai gali klonuoti balsą draugo, šeimos nario, viršininko ar autoriteto ir paskambinti aukai skubiai prašyti pinigų ar pagalbos. Arba aferistas gali klonuoti kliento, tiekėjo ar partnerio balsą ir siųsti netikras sąskaitas faktūras arba mokėjimo prašymus el. paštu arba telefonu. 2021 m. mažiausiai aštuoni vyresnio amžiaus žmonės Kanadoje prarado 200 000 USD akivaizdi balso klonavimo sukčiai.

Naujoji balso klonavimo technologija „iPhone“ gali sukelti nenumatytų pasekmių, sakė Iyengar. Jis atkreipė dėmesį, kad „iPhone“ skambučiai dažnai naudojami kaip įrodymas teisinėse bylose.

„Visa ši sritis dabar yra minų laukas, ir gana greitai teismai gali nepriimti balso įrašų kaip įrodymų, nes jie galėjo būti lengvai suklastoti“, – pridūrė jis.

Asmeninis balsas gali panaikinti ribą tarp fantastikos ir tikrovės. Iyengar pasiūlė, kad balso klonai galėtų būti suporuoti su AI pokalbių robotais, kad jie veiktų kaip „asmeninis triukas“.

Klonuotas balsas gali „atstovauti asmeniui ir atlikti užduotis jo vardu, pavyzdžiui, kurti susitikimai, atsiliepimai į telefono skambučius ir net vaizdo įrašai, kuriuos reikia perskaityti iš scenarijaus. Iyengar pasakė.

Jei jūsų balsas klonuotas ir juo naudojasi kas nors kitas, neaišku, ar teisinė sistema jus apsaugos. JAV „viešumo teisės“ įstatymai suteikia įžymybėms ir kitiems gerai žinomiems žmonėms galimybę kontroliuoti savo vardų, įvaizdžio ir balso naudojimą, Heidi McKee, profesorius prie Majamio universitetas, sakoma el. Ji pažymėjo, kad apsimesti teisėsaugos pareigūnu ar federaliniu darbuotoju yra neteisėta.

„Tačiau ar ta apsauga taikoma visiems JAV piliečiams ir tokiu būdu, kad asmeniui būtų lengva siekti žalos atlyginimo? McKee pasakė. „Įstatymai ir kiti teisės aktai nėra tokie aiškūs. Jau dabar esame perpildyti dezinformacijos ir gilių padirbinių, o balso klonavimo naudojimas tik padidins šias problemas, ypač kartu su vaizdo klastotėmis.