Kuinka Applen Live Voice -ominaisuutta voitaisiin käyttää äänen kloonaushuijauksiin

iPhonesi ja iPadisi antavat pian kloonata oman äänesi, ja asiantuntijoiden mukaan uusi ominaisuus voi johtaa syvempiin väärennöksiin.

Uusi Personal Voice -ominaisuus luo äänen, joka kuulostaa käyttäjältä. Se on tarkoitettu käyttäjille, jotka eivät puhu tai ovat vaarassa menettää tämän kyvyn. Mutta tekniikka voi myös aiheuttaa sekaannusta.

"Tästä voi hyvin nopeasti tulla syvä väärennöksien suo kaikkialla." Vinod Iyengar, AI-asiantuntija ja tuotepäällikkö osoitteessa Kolmas AI, kertoi Lifewire sähköpostihaastattelussa. "On monia puhebiometrisiin todennusjärjestelmiä, jotka tulevat olemaan vaikeuksissa. Entä jos joku käyttää äänikloonia päästäkseen luvattomasti pankkitilille? Tai käyttää sitä väärän tiedon levittämiseen."

Sinun äänesi, uudelleen luotu

Voit luoda henkilökohtaisen äänen lukemalla satunnaistetut tekstikehotteet tallentaaksesi 15 minuuttia ääntä iPhonella tai iPadilla. Ominaisuus käyttää laitteen koneoppimista pitääkseen käyttäjien tiedot yksityisinä.

"Päivän lopussa tärkeintä on kommunikointi ystävien ja perheen kanssa." Philip Green, joka on kokenut merkittäviä muutoksia äänessään ALS-diagnoosin saamisen jälkeen, sanoi sisään Applen lehdistötiedote. "Jos voit kertoa heille rakastavasi heitä äänellä, joka kuulostaa sinulta, se tekee kaiken eron maailmassa – ja synteettisen äänesi luominen iPhonellasi vain 15 minuutissa on poikkeuksellista."

Työkalu äänikloonaushuijauksiin?

Äänen kloonaustekniikka, kuten Personal Voice, herättää eettisiä kysymyksiä koskien suostumusta ja jonkun äänen mahdollista väärinkäyttöä ilman lupaa, Tyler Sweatt, teknologiayhtiön liikevaihtojohtaja Toinen eturintama, sanottiin sähköpostissa.

"Äänen kloonausta voidaan käyttää aidolta näyttävän tekostetun äänisisällön luomiseen, mikä vaikeuttaa todellisten ja väärennettyjen äänitallenteiden erottamista", hän lisäsi.

Äänen kloonaushuijaukset ovat nousussa. Asiantuntijat varoittavat tekniikkaa voidaan käyttää haitallisiin tarkoituksiin, kuten identiteettivarkaudet, vilpilliset puhelut ja tietojenkalasteluviestit. Rikolliset käyttävät tekoälyä esiintyäkseen jonkun muuna ja huijatakseen uhria antamaan rahaa tai henkilökohtaisia ​​tietoja.

Huijarit voivat kloonata äänen ystävän, perheenjäsenen, pomon tai auktoriteetin hahmon ja soita uhrille ja pyydä kiireellisesti rahaa tai apua. Vaihtoehtoisesti huijari voi kloonata asiakkaan, toimittajan tai kumppanin äänen ja lähettää väärennettyjä laskuja tai maksupyyntöjä sähköpostitse tai puhelimitse. Vuonna 2021 ainakin kahdeksan eläkeläistä Kanadassa menetti yhteensä 200 000 dollaria ilmeisessä äänikloonaushuijauksessa.

iPhone-puhelimien uusi äänen kloonaustekniikka voi johtaa tahattomiin seurauksiin, Iyengar sanoi. Hän huomautti, että iPhone-puheluita käytetään usein todisteena oikeustapauksissa.

"Koko tämä alue on nyt miinakenttä, ja melko pian tuomioistuimet eivät ehkä hyväksy äänitallenteita todisteiksi, koska ne olisi voitu helposti väärentää", hän lisäsi.

Personal Voice saattaa hämärtää fiktion ja todellisuuden välistä rajaa. Iyengar ehdotti, että äänikloonit voitaisiin yhdistää AI-chatbottien kanssa toimimaan "henkilökohtaisena stunt-kaksoina" kaikille.

Kloonattu ääni voisi "edustaa henkilöä ja suorittaa tehtäviä hänen puolestaan, kuten tekeminen tapaamiset, puheluihin vastaaminen ja jopa videotallenteet, jotka on luettava käsikirjoituksesta." Iyengar sanoi.

Jos äänesi on kloonattu ja jonkun muun käyttämä, on epävarmaa, suojeleeko oikeusjärjestelmä sinua. "Julkisuusoikeus" Yhdysvalloissa lait antavat julkkiksille ja muille tunnetuille henkilöille jonkin verran valtaa heidän nimiensä, kuvansa ja äänensä käyttöön, Heidi McKee, professori osoitteessa Miamin yliopisto, sanottiin sähköpostissa. Ja hän huomautti, että on laitonta esiintyä lainvalvontaviranomaisena tai liittovaltion työntekijänä.

"Mutta ulottuvatko nämä suojat kaikkiin Yhdysvaltain kansalaisiin ja sellaisella tavalla, että yksilön olisi helppo hakea hyvitystä?" McKee sanoi. "Laki ja määräykset eivät ole niin yksiselitteisiä. Olemme jo täynnä väärää tietoa ja syvällisiä väärennöksiä, ja puhekloonauksen käyttö vain laajentaa näitä ongelmia, varsinkin kun se yhdistetään myös videoväärennöksiin.