Jak by mohla být funkce živého hlasu společnosti Apple použita pro podvody s klonováním hlasu

Váš iPhone a iPad vám brzy umožní klonovat svůj vlastní hlas a odborníci říkají, že nová funkce by mohla vést k hlubším padělkům.

Nová funkce Osobní hlas vytvoří hlas, který zní jako uživatel. Je určen pro uživatele, kteří nemluví nebo jim hrozí ztráta této schopnosti. Technologie by ale také mohla způsobit zmatek.

"To by se mohlo velmi rychle stát bažinou hlubokých padělků všude," Vinod Iyengar, odborník na AI a vedoucí produktu ve společnosti TřetíAI, řekl Lifewire v e-mailovém rozhovoru. „Existuje mnoho autentizačních systémů založených na hlasové biometrii, které budou mít potíže. Co když někdo použije hlasový klon k získání neoprávněného přístupu k bankovnímu účtu? Nebo je používá k šíření dezinformací.“

Váš hlas, znovu vytvořen

Osobní hlas si můžete vytvořit čtením spolu s náhodnou sadou textových výzev, abyste nahráli 15 minut zvuku na iPhone nebo iPad. Tato funkce využívá strojové učení na zařízení k zachování soukromí informací uživatelů.

"Na konci dne je nejdůležitější umět komunikovat s přáteli a rodinou," Philip Green, který od té doby, co dostal diagnózu ALS, zaznamenal významné změny hlasu v Tisková zpráva společnosti Apple. „Pokud jim můžete říct, že je milujete, hlasem, který zní jako vy, je to velký rozdíl světě – a schopnost vytvořit svůj syntetický hlas na vašem iPhonu za pouhých 15 minut je výjimečná.“

Nástroj pro podvody s klonováním hlasu?

Technologie klonování hlasu, jako je Personal Voice, vyvolává etické otázky týkající se souhlasu a možného zneužití něčího hlasu bez jeho svolení, Tyler Sweatt, ředitel příjmů v technologické společnosti Druhá fronta, uvedl v e-mailu.

"Hlasové klonování lze použít k vytvoření umělého zvukového obsahu, který se jeví jako pravý, takže je obtížnější rozlišit mezi skutečnými a falešnými zvukovými nahrávkami," dodal.

Podvody s klonováním hlasu jsou na vzestupu. Odborníci varují technologii lze použít ke škodlivým účelům, jako jsou krádeže identity, podvodné telefonní hovory a phishingové e-maily. Zločinci používají AI k tomu, aby se vydávali za někoho jiného a oklamali oběť, aby poskytla peníze nebo osobní údaje.

Podvodníci mohou klonovat hlas přítele, člena rodiny, šéfa nebo autority a zavolejte oběti s naléhavou žádostí o peníze nebo pomoc. Alternativně může podvodník naklonovat hlas zákazníka, dodavatele nebo partnera a posílat falešné faktury nebo žádosti o platbu prostřednictvím e-mailu nebo telefonu. V roce 2021 ztratilo nejméně osm seniorů v Kanadě dohromady 200 000 dolarů ve zjevném podvodu s klonováním hlasu.

Nová technologie hlasového klonování na iPhonech by mohla vést k nezamýšleným následkům, řekl Iyengar. Poukázal na to, že hovory z iPhone jsou často používány jako důkaz v právních případech.

"Celá tato oblast je nyní minovým polem a soudy brzy možná nepřijmou hlasové nahrávky jako důkaz, protože mohly být snadno zfalšovány," dodal.

Osobní hlas by mohl smazat hranici mezi fikcí a realitou. Iyengar navrhl, že hlasové klony by mohly být spárovány s AI chatboty, aby fungovaly jako „osobní kaskadérský dvojník“ pro každého.

Klonovaný hlas by mohl „reprezentovat osobu a vykonávat v jejím zastoupení úkoly, jako je výroba schůzky, přijímání telefonních hovorů a dokonce i videozáznamy, které je třeba přečíst ze scénáře,“ řekl Iyengar.

Pokud je váš hlas naklonován a používán někým jiným, není jisté, zda vás právní systém ochrání. Zákony o „právu na publicitu“ v USA dávají celebritám a dalším známým lidem určitou kontrolu nad používáním jejich jmen, image a hlasu, Heidi McKeeová, profesor na Univerzita v Miami, uvedl v e-mailu. A poznamenala, že je nezákonné vydávat se za úředníka činného v trestním řízení nebo za federálního zaměstnance.

"Ale vztahuje se tato ochrana na všechny občany USA a způsobem, který by pro jednotlivce byl snadný domáhat se nápravy?" řekl McKee. „Zákony a předpisy v tom nejsou tak jasné. Již nyní jsme zaplaveni dezinformacemi a hlubokými padělky a použití klonování hlasu tyto problémy jen rozšíří, zejména ve spojení s padělky videa.“