음성 복제 사기에 Apple의 Live Voice 기능을 사용하는 방법

iPhone과 iPad는 곧 자신의 목소리를 복제할 수 있게 될 것이며 전문가들은 이 새로운 기능이 더 깊은 가짜로 이어질 수 있다고 말합니다.

새로운 개인 음성 기능 사용자처럼 들리는 목소리를 만들 것입니다. 말을 하지 못하거나 그 능력을 상실할 위험이 있는 사용자를 위한 것입니다. 그러나 이 기술은 혼란을 야기할 수도 있습니다.

"이것은 모든 곳에서 매우 빠르게 딥 페이크의 늪이 될 수 있습니다." 비노드 아이옌가, AI 전문가 및 제품 책임자 ThirdAI, 이메일 인터뷰에서 Lifewire에 말했습니다. "문제가 될 음성 생체 기반 인증 시스템이 많이 있습니다. 누군가가 보이스 클론을 사용하여 은행 계좌에 무단으로 액세스하면 어떻게 됩니까? 또는 잘못된 정보를 퍼뜨리는 데 사용합니다."

당신의 목소리, 재창조

iPhone 또는 iPad에서 15분 분량의 오디오를 녹음하기 위해 임의의 텍스트 프롬프트 세트와 함께 읽어 개인 음성을 만들 수 있습니다. 이 기능은 온디바이스 기계 학습을 사용하여 사용자 정보를 비공개로 유지합니다.

"결국 가장 중요한 것은 친구 및 가족과 소통할 수 있는 것입니다." ALS 진단을 받은 후 목소리에 상당한 변화를 겪은 필립 그린(Philip Green)은 다음과 같이 말했습니다. ~에 애플의 보도자료. "당신처럼 들리는 목소리로 사랑한다고 말할 수 있다면, 그리고 단 15분 만에 iPhone에서 합성 음성을 만들 수 있다는 것은 놀라운 일입니다."

음성 복제 사기를 위한 도구?

Personal Voice와 같은 음성 복제 기술은 동의 및 허가 없이 다른 사람의 음성을 오용할 가능성에 관한 윤리적 문제를 제기합니다. 타일러 스웨트, 기술 회사의 최고 수익 책임자 두 번째 전선, 이메일에서 말했다.

"음성 복제는 진짜처럼 보이는 조작된 오디오 콘텐츠를 만드는 데 사용될 수 있어 실제 오디오 녹음과 가짜 오디오 녹음을 구별하기 어렵게 만듭니다."라고 그는 덧붙였습니다.

음성 복제 사기 증가하고 있습니다. 전문가들은 경고한다 이 기술은 악의적인 목적으로 사용될 수 있습니다., 신원 도용, 사기성 전화, 피싱 이메일 등. 범죄자는 AI를 사용하여 다른 사람을 사칭하고 피해자가 돈이나 개인 정보를 제공하도록 속입니다.

사기꾼은 음성을 복제할 수 있습니다. 친구, 가족, 상사 또는 권위자의 도움을 요청하고 피해자에게 긴급하게 돈이나 도움을 요청하십시오. 또는 사기꾼이 고객, 공급업체 또는 파트너의 목소리를 복제하고 이메일이나 전화를 통해 가짜 송장이나 지불 요청을 보낼 수 있습니다. 2021년에 캐나다에서 최소 8명의 노인이 총 $200,000를 잃었습니다. 명백한 음성 복제 사기.

Iyengar는 iPhone의 새로운 음성 복제 기술이 의도하지 않은 결과를 초래할 수 있다고 말했습니다. 그는 아이폰 통화가 법적 사건에서 증거로 사용되는 경우가 많다고 지적했다.

"그 전체 지역은 이제 지뢰밭이며 곧 법원은 쉽게 위조될 수 있기 때문에 음성 녹음을 증거로 받아들이지 않을 것입니다."라고 그는 덧붙였습니다.

Personal Voice는 허구와 현실 사이의 경계를 모호하게 만들 수 있습니다. Iyengar는 보이스 클론이 AI 챗봇과 짝을 이루어 모두를 위한 "개인 스턴트 대역" 역할을 할 수 있다고 제안했습니다.

복제된 음성은 "사람을 대표하고 만드는 것과 같은 작업을 대신 수행할 수 있습니다. 약속, 전화 응답, 대본에서 읽어야 하는 비디오 녹화까지" 아이엥가가 말했다.

귀하의 목소리가 복제되어 다른 사람이 사용하는 경우 법적 시스템이 귀하를 보호할지 불확실합니다. 미국의 "퍼블리시티권(Right of Publicity)" 법률은 유명인 및 기타 유명인에게 자신의 이름, 이미지 및 목소리 사용에 대한 통제권을 부여합니다. 하이디 맥키, 교수 마이애미 대학, 이메일에서 말했다. 그리고 그녀는 법 집행 공무원이나 연방 직원을 사칭하는 것은 불법이라고 지적했습니다.

"그러나 그러한 보호가 모든 미국 시민에게 적용되고 개인이 구제를 쉽게 받을 수 있는 방식으로 확장됩니까?" 맥키가 말했다. “법률과 규정은 그것에 대해 그렇게 명확하지 않습니다. 이미 우리는 잘못된 정보와 딥 페이크가 넘쳐나고 있으며 음성 복제 사용은 특히 비디오 페이크와 결합될 때 이러한 문제를 확대할 뿐입니다.”