ШІ-клонування голосу допомагає шахраям — ось як захистити себе

Будьте обережні з телефонними дзвінками від людей, які кажуть, що вони близькі вам у біді.

Кажуть федеральні чиновники використовують шахраї програмне забезпечення для клонування голосу, щоб втілити складні випадки сімейного шахрайства та корпоративного шахрайства. Це частина зростаючої проблеми злочинців, які використовують штучний інтелект (ШІ).

«Завдяки останнім досягненням у синтезі мовлення такі системи, як VALL-E, здатні створити високоякісний голосовий клон лише за допомогою 3-секундного запису невидимого мовця», Віджай Баласубраманіян, генеральний директор фірми з кібербезпеки Pindrop сказав Lifewire в електронному інтерв’ю.

Як працює шахрайство з клонуванням голосу ШІ

Шахрайство з клонуванням голосу штучного інтелекту часто починається з дзвінка від когось, схожого на члена сім’ї. Шахрай каже, що ваша кохана людина в біді, і їй потрібні гроші на невідкладну допомогу, пов’язану з автомобільною аварією або лікарняним. Насправді людина, яка розмовляє по телефону, є незнайомцем, який використовує програмне забезпечення для клонування голосу.

«Штучний інтелект більше не є надуманою ідеєю з науково-фантастичного фільму. Ми живемо з цим тут і зараз», – пише FTC на своєму сайті. «Шахрай може використовувати штучний інтелект, щоб клонувати голос вашого коханого. Усе, що йому потрібно, — це короткий аудіозапис голосу члена вашої родини, який він міг би отримати з вмісту, опублікованого в Інтернеті, і програма клонування голосу. Коли шахрай дзвонить вам, він буде звучати так, як ваш коханий».

Клонування голосу дозволяє користувачам відтворити унікальні вокальні моделі людини. Однак це також палиця з двома кінцями, Тамаш Кадар, генеральний директор компанії із запобігання шахрайству SEON, йдеться в електронному листі. Небезпека виникає, коли ця технологія потрапляє в чужі руки.

«Недобросовісні люди можуть використовувати клонування голосу, щоб обманювати, маніпулювати та експлуатувати інших, потенційно завдаючи серйозної емоційної та фінансової шкоди», – додав Кадар. «Це особливо занепокоєння, оскільки програмне забезпечення для клонування голосу стає доступнішим і доступнішим, відкриваючи скриньку Пандори мерзенних можливостей».

Сімейна надзвичайна ситуація — не єдине шахрайство, яке використовує клонування голосу. Кадар сказав, що ще одним поширеним шахрайством є випадки, коли шахрай видає себе за члена сім’ї або близького друга, зазвичай стверджуючи, що їм потрібна фінансова допомога через нещасний випадок або невідкладну ситуацію. «Жертва, думаючи, що допомагає близькій людині, надсилає гроші, щоб потім виявити, що це було шахрайство», — додав він.

Інше шахрайство — шахрайство з генеральним директором, коли шахрай клонує голос керівника компанії та зв’язується зі співробітниками, вимагаючи від них переказу коштів або розкриття конфіденційної інформації. Співробітник, вважаючи, що виконує накази начальника, мимоволі дає змогу шахрайству.

Бабусі та дідусі стають все більш уразливими до шахрайства з клонуванням голосу, Стівен Дж. Дж. Вайсмана, експерт з крадіжки особистих даних, сказав в електронному інтерв’ю. Шахрай може отримати запис голосу онука з соціальних мереж і відтворити його за допомогою технології ШІ.

Він вказав на випадок Рут Кард з Канади, яку ошукали із 3000 канадських доларів шахраєм, який використав технологію клонування голосу штучного інтелекту, щоб здійснити дзвінок, який, здається, надійшов від її онука. Той, хто дзвонив, сказав, що її онук у в'язниці і йому негайно потрібні гроші під заставу.

«Усе, що для цього потрібно, — це програмне забезпечення для створення голосу штучним інтелектом і лише 30 секунд аудіо онука», — сказав Вайсман.

Виявлення афери з клонуванням голосу

Ви можете захистити себе від шахрайства з клонуванням голосу ШІ, остерігаючись небажаних дзвінків із запитом особистої чи фінансової інформації. Згідно з FTC, шахраї часто просять вас заплатити або надіслати гроші таким чином, що ускладнює повернення ваших грошей. Якщо абонент каже переказати гроші, надіслати криптовалюту або купити подарункові картки та надати їм номери карток і PIN-коди, це може бути ознаками шахрайства.

Баласубраманіян сказав, що це тривога, якщо ви піддаєтеся емоційним маніпуляціям і тактиці високого тиску. «Якщо користувач відчуває потребу допомогти в таких ситуаціях, покладіть трубку та самостійно передзвоніть контакту за відомим номером телефону», — додав він.

У майбутньому можуть з’явитися способи виявлення шахрайства зі штучним інтелектом. «Компанії створюють технологію для виявлення клонування голосу», — сказав Баласубраманіян. «Ці технології виявлення використовують знання про створення та еволюцію людського голосу, щоб визначити, коли голос є клоном, відтворюючи фізичну анатомію відповідного мовлення та визначаючи аномалії в цьому мова».