Како би се Аппле-ова функција гласа уживо могла користити за преваре при клонирању гласа

Ваш иПхоне и иПад ће вам ускоро омогућити да клонирате сопствени глас, а стручњаци кажу да би нова функција могла да доведе до дубљег лажирања.

Нова функција Персонал Воице ће створити глас који звучи као корисник. Намењен је корисницима који не говоре или су у опасности да изгубе ту способност. Али технологија би такође могла створити забуну.

"Ово би врло брзо могло да постане мочвара дубоких лажњака свуда", Винод Ииенгар, стручњак за вештачку интелигенцију и шеф производа у ТхирдАИ, рекао је за Лифевире у интервјуу е-поштом. „Постоји много система за аутентификацију заснованих на гласовној биометрији који ће бити у невољи. Шта ако неко користи гласовни клон да добије неовлашћени приступ банковном рачуну? Или га користи за ширење дезинформација."

Ваш глас, поново створен

Можете да креирате лични глас читањем заједно са насумично одабраним скупом текстуалних упита за снимање 15 минута звука на иПхоне или иПад. Ова функција користи машинско учење на уређају како би информације корисника биле приватне.

„На крају дана, најважнија ствар је бити у могућности да комуницирате са пријатељима и породицом“, Филип Грин, који је доживео значајне промене у свом гласу од када је добио дијагнозу АЛС, рекао је ин Аппле-ово саопштење. „Ако им можете рећи да их волите гласом који звучи као ви, то чини сву разлику у томе свет — и бити у могућности да креирате свој синтетички глас на свом иПхоне-у за само 15 минута је изванредно."

Алат за преваре са клонирањем гласа?

Технологија клонирања гласа као што је Персонал Воице поставља етичка питања у вези са пристанком и потенцијалном злоупотребом нечијег гласа без њихове дозволе, Тилер Свеатт, главни службеник за приходе у технолошкој компанији Други фронт, речено је у мејлу.

„Клонирање гласа се може користити за креирање фабрикованог аудио садржаја који изгледа као оригиналан, што отежава разликовање правих и лажних аудио снимака“, додао је он.

Преваре за клонирање гласа су у порасту. Стручњаци упозоравају технологија се може користити у злонамерне сврхе, као што су крађа идентитета, лажни телефонски позиви и е-поруке за „пецање“. Криминалци користе вештачку интелигенцију да би се лажно представљали као неко други и преварили жртву да да новац или личне податке.

Преваранти могу да клонирају глас пријатеља, члана породице, шефа или ауторитета и позовите жртву са хитним захтевом за новац или помоћ. Алтернативно, преварант може да клонира глас купца, добављача или партнера и пошаље лажне фактуре или захтеве за плаћање путем е-поште или телефона. У 2021., најмање осам старијих грађана у Канади изгубило је укупно 200.000 долара у очигледној превари клонирања гласа.

Нова технологија клонирања гласа на иПхоне-у могла би довести до нежељених последица, рекао је Ајенгар. Он је истакао да се телефонски позиви често користе као доказ у правним случајевима.

„Читаво то подручје је сада минско поље и врло брзо судови можда неће прихватити гласовне снимке као доказ јер су лако могли бити лажирани“, додао је он.

Лични глас може замаглити границу између фикције и стварности. Ииенгар је предложио да се гласовни клонови могу упарити са АИ цхатботовима како би се понашали као „лични каскадерски двојник“ за све.

Клонирани глас би могао „представљати особу и обављати задатке у њено име као што је прављење састанке, одговарање на телефонске позиве, па чак и видео снимке које треба прочитати из скрипте“, рекао је Ајенгар.

Ако ваш глас клонира и користи неко други, неизвесно је да ли ће вас правни систем заштитити. Закони о "праву на публицитет" у САД дају познатим личностима и другим познатим људима одређену контролу над употребом њихових имена, слике и гласа, Хеиди МцКее, професор на Универзитет у Мајамију, речено је у мејлу. И, напоменула је, незаконито је представљати се као службеник за спровођење закона или федерални службеник.

„Али да ли се та заштита односи на све грађане САД и на начин на који би појединцу било лако да тражи обештећење?“ рекао је МцКее. „Закон и прописи нису тако јасни по том питању. Већ смо преплављени дезинформацијама и дубоким лажњацима, а употреба клонирања гласа само ће проширити те проблеме, посебно када је у комбинацији са лажним видео записима.