Ako by sa dala funkcia živého hlasu spoločnosti Apple použiť na podvody s klonovaním hlasu

Váš iPhone a iPad vám čoskoro umožnia klonovať svoj vlastný hlas a odborníci tvrdia, že nová funkcia by mohla viesť k hlbším falzifikátom.

Nová funkcia Osobný hlas vytvorí hlas, ktorý znie ako používateľ. Je určený pre používateľov, ktorí nehovoria alebo ktorým hrozí strata tejto schopnosti. Táto technológia však môže spôsobiť zmätok.

"To by sa mohlo veľmi rýchlo stať bažinou hlbokých falzifikátov všade," Vinod Iyengar, odborník na AI a vedúci produktu v TretiaAI, povedal Lifewire v e-mailovom rozhovore. „Existuje veľa autentifikačných systémov založených na hlasovej biometrii, ktoré budú mať problémy. Čo ak niekto použije hlasový klon na získanie neoprávneného prístupu k bankovému účtu? Alebo ho používa na šírenie dezinformácií.“

Váš hlas, pretvorený

Osobný hlas si môžete vytvoriť čítaním spolu s náhodným súborom textových výziev, aby ste nahrali 15 minút zvuku na iPhone alebo iPad. Táto funkcia využíva strojové učenie na zariadení na zachovanie súkromia informácií používateľov.

"Na konci dňa je najdôležitejšia možnosť komunikovať s priateľmi a rodinou," Philip Green, ktorý zaznamenal významné zmeny vo svojom hlase odkedy dostal diagnózu ALS, povedal v Tlačová správa spoločnosti Apple. „Ak im môžete povedať, že ich milujete hlasom, ktorý znie ako vy, je to veľký rozdiel svet – a schopnosť vytvoriť svoj syntetický hlas na vašom iPhone len za 15 minút je výnimočná.“

Nástroj na podvody s klonovaním hlasu?

Technológia klonovania hlasu, ako je Osobný hlas, vyvoláva etické otázky týkajúce sa súhlasu a potenciálneho zneužitia niekoho hlasu bez jeho súhlasu, Tyler Sweatt, hlavný riaditeľ príjmov v technologickej spoločnosti Druhý front, uviedol v e-maile.

„Klonovanie hlasu sa dá použiť na vytvorenie umelo vytvoreného zvukového obsahu, ktorý sa javí ako pravý, čo sťažuje rozlíšenie medzi skutočnými a falošnými zvukovými nahrávkami,“ dodal.

Podvody s klonovaním hlasu sú na vzostupe. Odborníci varujú technológia môže byť použitá na škodlivé účely, ako sú krádeže identity, podvodné telefonáty a phishingové e-maily. Zločinci používajú AI na vydávanie sa za niekoho iného a oklamanie obete, aby poskytla peniaze alebo osobné informácie.

Podvodníci môžu klonovať hlas priateľa, člena rodiny, šéfa alebo autority a zavolajte obeti s naliehavou žiadosťou o peniaze alebo pomoc. Prípadne môže podvodník klonovať hlas zákazníka, dodávateľa alebo partnera a posielať falošné faktúry alebo žiadosti o platbu prostredníctvom e-mailu alebo telefónu. V roku 2021 najmenej osem starších občanov v Kanade stratilo spolu 200 000 dolárov v zjavnom podvode s klonovaním hlasu.

Nová technológia hlasového klonovania na telefónoch iPhone by mohla viesť k nezamýšľaným následkom, povedal Iyengar. Poukázal na to, že hovory cez iPhone sa často používajú ako dôkaz v právnych prípadoch.

"Celá táto oblasť je teraz mínovým poľom a súdy čoskoro nemusia akceptovať hlasové nahrávky ako dôkaz, pretože by mohli byť ľahko sfalšované," dodal.

Osobný hlas môže zmazať hranicu medzi fikciou a realitou. Iyengar navrhol, že hlasové klony by mohli byť spárované s AI chatbotmi, aby fungovali ako „osobný kaskadérsky dvojník“ pre každého.

Klonovaný hlas by mohol „zastupovať osobu a vykonávať v jej mene úlohy, ako je výroba stretnutia, odpovedanie na telefónne hovory a dokonca aj videozáznamy, ktoré je potrebné prečítať zo scenára,“ povedal Iyengar.

Ak je váš hlas naklonovaný a používaný niekým iným, nie je isté, či vás právny systém ochráni. Zákony o „práve na publicitu“ v USA dávajú celebritám a iným známym ľuďom určitú kontrolu nad používaním ich mien, imidžu a hlasu, Heidi McKeeová, profesor na Univerzita v Miami, uviedol v e-maile. A poznamenala, že je nezákonné vydávať sa za predstaviteľa orgánov činných v trestnom konaní alebo za federálneho zamestnanca.

"Ale vzťahuje sa táto ochrana na všetkých občanov USA a spôsobom, ktorý by pre jednotlivca bol jednoduchý domáhať sa nápravy?" povedal McKee. „Zákony a predpisy v tom nie sú také jasné. Už teraz sme zaplavení dezinformáciami a hlbokými falzifikátmi a používanie hlasového klonovania tieto problémy len rozšíri, najmä v spojení s falzifikátmi videa.“