AI-stemmekloning hjælper svindlere - her er, hvordan du beskytter dig selv

Vær på vagt over for telefonopkald fra folk, der hævder at være pårørende i problemer.

Det siger føderale embedsmænd svindlere bruger stemmekloningssoftware til at udføre sofistikeret familiesvindel i nødsituationer og firmasvindel. Det er en del af et voksende problem med kriminelle, der bruger kunstig intelligens (AI).

"Med de seneste fremskridt inden for talesyntese er systemer som VALL-E i stand til at skabe en stemmeklon af høj kvalitet med kun en 3-sekunders registreret optagelse af en uset højttaler." Vijay Balasubramaniyan, administrerende direktør for cybersikkerhedsfirmaet Pindrop fortalte Lifewire i et e-mailinterview.

Sådan fungerer AI-stemmekloning-svindel

AI-stemmekloning-svindel starter ofte med et opkald fra en person, der lyder som et familiemedlem. Svindleren siger, at din elskede er i problemer og har brug for penge til en nødsituation, der involverer en bilulykke eller en hospitalsregning. Faktisk er personen i telefonen en fremmed, der bruger stemmekloningssoftware.

"Kunstig intelligens er ikke længere en langt ude af en sci-fi-film. Vi lever med det, her og nu,« skriver FTC på sin hjemmeside. "En svindler kunne bruge kunstig intelligens til at klone din elskedes stemme. Alt, hvad han behøver, er et kort lydklip af dit familiemedlems stemme – som han kunne få fra indhold, der er lagt ud på nettet – og et stemmekloningsprogram. Når svindleren ringer til dig, vil han lyde ligesom din elskede."

Stemmekloning giver brugerne mulighed for at genskabe et individs unikke vokalmønstre. Men det er også et tveægget sværd, Tamás Kádár, administrerende direktør for firmaet til forebyggelse af bedrageri SEON, sagde i en e-mail. Faren opstår, når denne teknologi falder i de forkerte hænder.

"Skruppelløse individer kan bruge stemmekloning til at bedrage, manipulere og udnytte andre, med potentiale til at forårsage alvorlig følelsesmæssig og økonomisk skade," tilføjede Kádár. "Dette er især bekymrende, da stemmekloningssoftware bliver mere tilgængelig og overkommelig, hvilket åbner op for en pandoras æske med uhyggelige muligheder."

Familienødsituationen er ikke den eneste fidus, der bruger stemmekloning. Kádár sagde, at en anden almindelig svindel er, når svindleren udgiver sig for at være et familiemedlem eller en nær ven, som normalt hævder, at de har brug for økonomisk hjælp på grund af en ulykke eller en akut situation. "Ofret, der tror, ​​at de hjælper en elsket, sender penge, for senere at opdage, at det var en fidus," tilføjede han.

Et andet svindelnummer er CEO-svindel, når en svindler kloner stemmen til en virksomheds leder og kontakter medarbejdere og anmoder om, at de overfører penge eller afslører følsomme oplysninger. Medarbejderen, der tror, ​​at de følger ordrer fra en overordnet, aktiverer ubevidst fidusen.

Bedsteforældre er i stigende grad sårbare over for svindel med stemmekloning, Steven J.J. Weisman, en ekspert i identitetstyveri, sagde i et e-mailinterview. Svindleren kan få en optagelse af et barnebarns stemme fra sociale medier og kopiere den ved hjælp af AI-teknologi.

Han pegede på sagen om Ruth Card fra Canada, der blev snydt ud af 3.000 CAD af en svindler, der brugte AI-stemmekloningsteknologi til at foretage et opkald, der så ud til at komme fra hendes barnebarn. Ringeren sagde, at hendes barnebarn var i fængsel og havde brug for pengene med det samme til kaution.

"Alt, der skal til, er AI-stemmegenererende software og så lidt som 30 sekunder af barnebarnets lyd," sagde Weisman.

Finder en stemmekloningsfidus

Du kan beskytte dig selv mod AI-stemmekloningssvindel ved at være på vagt over for uopfordrede opkald, der anmoder om personlige eller økonomiske oplysninger. Ifølge FTC beder svindlere dig ofte om at betale eller sende penge på måder, der gør det svært at få dine penge tilbage. Hvis den, der ringer, siger, at han skal overføre penge, sende kryptovaluta eller købe gavekort og give dem kortnumre og pinkoder, kan det være tegn på svindel.

Balasubramaniyan sagde, at det er et rødt flag, hvis du bliver udsat for følelsesmæssig manipulation og højtrykstaktikker. "Hvis en bruger føler sig tvunget til at hjælpe i disse situationer, læg på og ring uafhængigt tilbage til kontakten ved hjælp af et kendt telefonnummer," tilføjede han.

I fremtiden kan der være måder at opdage AI-svindel på. "Virksomheder skaber teknologi til at opdage stemmekloning," sagde Balasubramaniyan. "Disse detektionsteknologier bruger viden om menneskelig stemmeproduktion og -evolution til at bestemme, hvornår en stemme er en klon ved at genskabe den fysiske anatomi af den pågældende tale og bestemme anomalier i den tale."