Hvordan Apples Live Voice-funktion kunne bruges til stemmekloning-svindel
- Apples nye software giver dig mulighed for at klone din stemme på iPhones og iPads.
- Teknologien er beregnet til at hjælpe brugere, der ikke taler eller risikerer at miste denne evne.
- Men eksperter siger, at stemmekloningsteknologi kan hjælpe med svindel og forårsage forvirring.
Westend61 / Getty Images
Din iPhone og iPad vil snart lade dig klone din egen stemme, og eksperter siger, at den nye funktion kan føre til mere dybe forfalskninger.
Den nye Personal Voice-funktion vil skabe en stemme, der lyder som brugeren. Det er beregnet til brugere, der ikke taler eller risikerer at miste denne evne. Men teknologien kan også skabe forvirring.
"Dette kan meget hurtigt blive en sump af dybe forfalskninger overalt," Vinod Iyengar, AI-ekspert og produktchef hos ThirdAI, fortalte Lifewire i et e-mailinterview. "Der er mange biometrisk-baserede stemmegodkendelsessystemer, der vil komme i problemer. Hvad hvis nogen bruger en stemmeklon til at få uautoriseret adgang til en bankkonto? Eller bruger det til at sprede misinformation."
Din stemme, genskabt
Du kan oprette en personlig stemme ved at læse sammen med et tilfældigt sæt tekstbeskeder for at optage 15 minutters lyd på en iPhone eller iPad. Funktionen bruger maskinlæring på enheden til at holde brugernes oplysninger private.
"I sidste ende er det vigtigste at kunne kommunikere med venner og familie," Philip Green, som har oplevet betydelige ændringer i sin stemme, siden han modtog sin ALS-diagnose, sagde i Apples nyhedsmeddelelse. "Hvis du kan fortælle dem, at du elsker dem med en stemme, der lyder som dig, gør det hele forskellen verden – og at kunne skabe din syntetiske stemme på din iPhone på kun 15 minutter er ekstraordinært."
Et værktøj til stemmekloning-svindel?
Stemmekloningsteknologi som Personal Voice rejser etiske spørgsmål vedrørende samtykke og potentielt misbrug af en persons stemme uden deres tilladelse, Tyler Sweatt, Chief Revenue Officer hos teknologivirksomheden Anden Front, sagde i en e-mail.
"Stemmekloning kan bruges til at skabe fremstillet lydindhold, der ser ud til at være ægte, hvilket gør det sværere at skelne mellem ægte og falske lydoptagelser," tilføjede han.
Svindel med stemmekloning er i stigning. Eksperter advarer teknologien kan bruges til ondsindede formål, såsom identitetstyveri, svigagtige telefonopkald og phishing-e-mails. Kriminelle bruger kunstig intelligens til at efterligne en anden og narre offeret til at give penge eller personlige oplysninger.
Stemmekloning kan bruges til at skabe fremstillet lydindhold, der ser ud til at være ægte, hvilket gør det sværere at skelne mellem ægte og falske lydoptagelser.
Svindlere kan klone stemmen af en ven, et familiemedlem, en chef eller en myndighedsperson og ringer til offeret med en presserende anmodning om penge eller hjælp. Alternativt kan en svindler klone en kundes, leverandørs eller partners stemme og sende falske fakturaer eller betalingsanmodninger via e-mail eller telefon. I 2021 mistede mindst otte ældre borgere i Canada tilsammen $200.000 i en tilsyneladende stemmekloningsfidus.
Den nye stemmekloningsteknologi på iPhones kan føre til utilsigtede konsekvenser, sagde Iyengar. Han påpegede, at iPhone-opkald ofte bruges som bevis i retssager.
"Hele det område er nu et minefelt, og ret hurtigt vil domstolene måske ikke acceptere stemmeoptagelser som bevis, da det nemt kunne være blevet forfalsket," tilføjede han.
Personlig stemme kan udviske grænsen mellem fiktion og virkelighed. Iyengar foreslog, at stemmekloner kunne parres med AI-chatbots for at fungere som en "personlig stuntdouble" for alle.
yanyong / Getty Images
Den klonede stemme kunne "repræsentere personen og udføre opgaver på deres vegne som at lave aftaler, besvarelse af telefonopkald og endda videooptagelser, der skal læses fra et script,” sagde Iyengar.
Hvis din stemme er klonet og brugt af en anden, er det usikkert, om retssystemet vil beskytte dig. Lovene om "Right of Publicity" i USA giver berømtheder og andre kendte personer en vis kontrol over brugen af deres navne, billede og stemme, Heidi McKee, professor ved Miami Universitet, sagde i en e-mail. Og hun bemærkede, at det er ulovligt at udgive sig for at være en retshåndhævende embedsmand eller en føderal ansat.
"Men dækker disse beskyttelser alle amerikanske borgere og på en måde, der ville være let for en person at søge erstatning?" sagde McKee. »Loven og reglerne er ikke så klare på det. Vi er allerede oversvømmet af misinformation og dybe forfalskninger, og brugen af stemmekloning vil kun udvide disse problemer, især når det også kombineres med videoforfalskninger."