Hoe de Live Voice-functie van Apple kan worden gebruikt voor oplichting met het klonen van stemmen

Met je iPhone en iPad kun je binnenkort je eigen stem klonen, en experts zeggen dat de nieuwe functie kan leiden tot meer diepe vervalsingen.

De nieuwe Personal Voice-functie zal een stem creëren die klinkt als de gebruiker. Het is bedoeld voor gebruikers die niet spreken of het risico lopen dat vermogen te verliezen. Maar de technologie kan ook voor verwarring zorgen.

"Dit zou heel snel overal een moeras van diepe vervalsingen kunnen worden," Vinod Iyengar, AI-expert en hoofd product bij Derde AI, vertelde Lifewire in een e-mailinterview. "Er zijn veel op stembiometrie gebaseerde authenticatiesystemen die in de problemen zullen komen. Wat als iemand een stemkloon gebruikt om ongeoorloofde toegang tot een bankrekening te krijgen? Of gebruikt het om desinformatie te verspreiden."

Uw stem, herschapen

U kunt een persoonlijke stem maken door mee te lezen met een willekeurige reeks tekstprompts om 15 minuten audio op een iPhone of iPad op te nemen. De functie maakt gebruik van machine learning op het apparaat om de informatie van gebruikers privé te houden.

"Uiteindelijk is het belangrijkste dat je kunt communiceren met vrienden en familie," Philip Green, die aanzienlijke veranderingen in zijn stem heeft ervaren sinds hij zijn ALS-diagnose kreeg, zei in Persbericht van Apple. "Als je ze kunt vertellen dat je van ze houdt met een stem die klinkt zoals jij, maakt dat het verschil in de wereld - en het is buitengewoon om in slechts 15 minuten je synthetische stem op je iPhone te creëren."

Een hulpmiddel voor oplichting met het klonen van stemmen?

Technologie voor het klonen van stemmen, zoals Personal Voice, roept ethische vragen op over toestemming en het mogelijke misbruik van iemands stem zonder diens toestemming. Tyler Sweatt, de chief revenue officer bij het technologiebedrijf Tweede front, zei in een e-mail.

"Het klonen van stemmen kan worden gebruikt om gefabriceerde audio-inhoud te creëren die echt lijkt, waardoor het moeilijker wordt om onderscheid te maken tussen echte en nep-audio-opnamen", voegde hij eraan toe.

Oplichting door het klonen van stemmen zijn in opmars. Deskundigen waarschuwen de technologie kan worden gebruikt voor kwaadaardige doeleinden, zoals identiteitsdiefstal, frauduleuze telefoontjes en phishing-e-mails. Criminelen gebruiken AI om zich voor te doen als iemand anders en het slachtoffer te misleiden om geld of persoonlijke informatie te geven.

Oplichters kunnen de stem klonen van een vriend, familielid, baas of gezagsdrager en bel het slachtoffer met een dringend verzoek om geld of hulp. Een oplichter kan ook de stem van een klant, leverancier of partner klonen en valse facturen of betalingsverzoeken sturen via e-mail of telefoon. In 2021 verloren ten minste acht senioren in Canada samen $ 200.000 in een schijnbare zwendel voor het klonen van stemmen.

De nieuwe technologie voor het klonen van stemmen op iPhones kan tot onbedoelde gevolgen leiden, zei Iyengar. Hij wees erop dat iPhone-oproepen vaak als bewijs worden gebruikt in rechtszaken.

"Dat hele gebied is nu een mijnenveld, en al snel accepteren rechtbanken stemopnames misschien niet meer als bewijs, omdat het gemakkelijk vervalst zou kunnen zijn", voegde hij eraan toe.

Personal Voice zou de grens tussen fictie en realiteit kunnen doen vervagen. Iyengar suggereerde dat stemklonen kunnen worden gekoppeld aan AI-chatbots om voor iedereen als een "persoonlijke stuntdubbel" te fungeren.

De gekloonde stem zou "de persoon kunnen vertegenwoordigen en namens hem taken kunnen uitvoeren, zoals maken afspraken, het beantwoorden van telefoontjes en zelfs video-opnamen die uit een script moeten worden voorgelezen”, zei Iyengar.

Als je stem wordt gekloond en door iemand anders wordt gebruikt, is het onzeker of het rechtssysteem je zal beschermen. De "Right of Publicity"-wetten in de VS geven beroemdheden en andere bekende mensen enige controle over het gebruik van hun naam, afbeelding en stem. Heidi McKee, een professor aan Universiteit van Miami, zei in een e-mail. En, merkte ze op, het is illegaal om je uit te geven voor een wetshandhavingsfunctionaris of een federale medewerker.

"Maar strekken die beschermingen zich uit tot alle Amerikaanse burgers en op een manier die voor een individu gemakkelijk is om verhaal te halen?" zei McKee. “De wet- en regelgeving is daar niet zo duidelijk over. We worden nu al overspoeld met desinformatie en diepe vervalsingen, en het gebruik van stemklonen zal die problemen alleen maar vergroten, vooral in combinatie met videovervalsingen.”