Cum ar putea fi folosită funcția Live Voice de la Apple pentru înșelătoriile de clonare a vocii

iPhone-ul și iPad-ul vă vor permite în curând să vă clonați propria voce, iar experții spun că noua funcție ar putea duce la falsuri mai profunde.

Noua funcție Personal Voice va crea o voce care sună ca utilizatorul. Este destinat utilizatorilor care nu vorbesc sau care riscă să-și piardă această abilitate. Dar tehnologia ar putea crea și confuzie.

„Acest lucru ar putea deveni foarte repede o mlaștină de falsuri adânci peste tot”, Vinod Iyengar, expert AI și șef de produs la Al treilea AI, a declarat pentru Lifewire într-un interviu prin e-mail. „Există multe sisteme de autentificare bazate pe voce biometrică care vor avea probleme. Ce se întâmplă dacă cineva folosește o clonă vocală pentru a obține acces neautorizat la un cont bancar? Sau îl folosește pentru a răspândi dezinformare.”

Vocea ta, recreată

Puteți crea o voce personală citind împreună cu un set aleatoriu de solicitări text pentru a înregistra 15 minute de sunet pe un iPhone sau iPad. Caracteristica folosește învățarea automată de pe dispozitiv pentru a păstra informațiile utilizatorilor private.

„La sfârșitul zilei, cel mai important lucru este să poți comunica cu prietenii și familia.” Philip Green, care a experimentat schimbări semnificative în vocea sa de când a primit diagnosticul său de SLA, a spus în Comunicatul de presă al Apple. „Dacă le poți spune că îi iubești cu o voce care sună ca tine, asta face toată diferența lumea — și a putea crea vocea ta sintetică pe iPhone în doar 15 minute este extraordinar.”

Un instrument pentru înșelătoriile de clonare a vocii?

Tehnologia de clonare a vocii precum Personal Voice ridică întrebări etice cu privire la consimțământ și la potențiala utilizare greșită a vocii cuiva fără permisiunea acestuia, Tyler Sweatt, directorul de venituri al companiei de tehnologie Al doilea front, a spus într-un e-mail.

„Clonarea vocii poate fi folosită pentru a crea conținut audio fabricat care pare a fi autentic, ceea ce face mai dificilă discernământul între înregistrările audio reale și false”, a adăugat el.

Escrocherii cu clonarea vocii sunt în creștere. Experții avertizează tehnologia poate fi folosită în scopuri rău intenționate, cum ar fi furtul de identitate, apelurile telefonice frauduloase și e-mailurile de tip phishing. Infractorii folosesc inteligența artificială pentru a se uzurpa pe altcineva și pentru a păcăli victima să dea bani sau informații personale.

Escrocii pot clona vocea a unui prieten, membru al familiei, șef sau personalitate și sună victima cu o cerere urgentă de bani sau ajutor. Alternativ, un escroc poate clona vocea unui client, furnizor sau partener și poate trimite facturi false sau solicitări de plată prin e-mail sau telefon. În 2021, cel puțin opt cetățeni în vârstă din Canada au pierdut un total de 200.000 de dolari într-o aparentă înșelătorie de clonare a vocii.

Noua tehnologie de clonare a vocii de pe iPhone-uri ar putea duce la consecințe nedorite, a spus Iyengar. El a subliniat că apelurile iPhone sunt adesea folosite ca probe în cauzele legale.

„Întreaga zonă este acum un câmp minat și, destul de curând, instanțele ar putea să nu accepte înregistrările vocale ca dovadă, deoarece ar fi putut fi ușor falsificată”, a adăugat el.

Personal Voice ar putea estompa linia dintre ficțiune și realitate. Iyengar a sugerat că clonele de voce ar putea fi asociate cu chatbot-uri AI pentru a acționa ca o „dublu cascadorie personală” pentru toată lumea.

Vocea clonata ar putea „reprezenta persoana și îndeplini sarcini în numele ei, cum ar fi realizarea întâlniri, răspuns la apeluri telefonice și chiar înregistrări video care trebuie citite dintr-un scenariu.” spuse Iyengar.

Dacă vocea ta este clonată și folosită de altcineva, nu este sigur dacă sistemul legal te va proteja. Legile „Dreptul la publicitate” din SUA oferă celebrităților și altor persoane cunoscute un anumit control asupra utilizării numelor, imaginii și vocii lor, Heidi McKee, profesor la Universitatea din Miami, a spus într-un e-mail. Și, a remarcat ea, este ilegal să vă uzurați identitatea unui oficial de aplicare a legii sau a unui angajat federal.

„Dar aceste protecții se extind asupra tuturor cetățenilor americani și într-un mod care ar fi ușor pentru o persoană să solicite despăgubiri?” spuse McKee. „Legea și regulamentele nu sunt atât de clare în acest sens. Suntem deja inundați de dezinformare și falsuri profunde, iar utilizarea clonării vocii nu va face decât să extindă aceste probleme, mai ales atunci când este cuplată și cu falsuri video.”