전문가들은 Facebook의 Deepfake 기술이 우리를 구하지 못할 것이라고 말합니다.

페이스북은 자신 있다. 딥페이크 방지를 위한 머신 러닝 모델하지만 전문가들은 머신 러닝만으로는 딥페이크에 속아 넘어가는 것을 막을 수는 없다고 말합니다.

페이스북, 마이크로소프트, 구글과 같은 기업 모두 딥페이크와 싸우기 위해 노력하고 있습니다. 웹 및 소셜 네트워크 전반에 걸쳐 확산되지 않도록 합니다. 방법은 다르지만 이러한 거짓 비디오를 발견할 수 있는 한 가지 확실한 방법이 있습니다. 바로 블록체인입니다.

"[Blockchains]는 내가 볼 수 있는 최고의 검증 형식인 방식으로 딥페이크를 검증할 수 있는 많은 잠재력을 제공합니다."라고 의 설립자이자 CEO인 Stephen Wolfram이 말했습니다. 볼프람 리서치 의 저자 새로운 종류의 과학, 전화로 Lifewire에 말했습니다.

Facebook의 Deepfake-Spotting 기술

Deepfake 기술은 지난 몇 년 동안 빠르게 성장했습니다. 오해의 소지가 있는 동영상은 기계 학습 방법을 사용하여 다른 사람의 얼굴을 다른 사람의 몸에 겹쳐 놓기, 배경 조건 변경, 가짜 립싱크 등의 작업을 수행합니다. 무해한 패러디부터 유명인이나 공인이 하지 않은 말이나 행동을 하게 만드는 것까지 다양합니다.

전문가들은 이 기술이 빠르게 발전하고 있으며 기술이 더 널리 보급되고 더 혁신적일수록 딥페이크가 더 설득력 있고 더 쉽게 만들어질 것이라고 말합니다.

Facebook은 최근 Michigan State University와 협력하여 딥페이크 탐지 기술에 대한 더 많은 통찰력을 제공했습니다. 소셜 네트워크는 단일 인공 지능 생성 이미지에서 이를 생성하는 데 사용되는 생성 모델까지 리버스 엔지니어링에 의존한다고 말합니다.

Facebook과 협력한 연구 과학자들은 이 방법이 딥페이크를 생성하는 데 사용된 AI 모델 이면의 고유한 패턴을 발견하는 데 달려 있다고 말했습니다.

“개방형 인식에 대한 이미지 속성을 일반화함으로써 우리는 본 적이 없다는 인식을 넘어선 딥페이크를 만드는 데 사용되는 생성 모델 전에. 그리고 딥페이크 모음의 패턴 사이의 유사성을 추적하여 일련의 이미지가 생성되었는지 여부도 알 수 있습니다. 딥페이크 탐지에 대한 Facebook 블로그 게시물에서 연구 과학자인 Xi Yin과 Tan Hassner가 썼습니다. 방법.

Wolfram은 고급 AI 모델(딥페이크)을 발견하기 위해 기계 학습을 사용하는 것이 합리적이라고 말합니다. 그러나 기술을 속일 여지는 항상 있습니다.

Wolfram은 "[딥페이크를 탐지하는] 적절한 머신 러닝 방법이 있다는 사실에 전혀 놀라지 않습니다."라고 말했습니다. "유일한 질문은 당신이 충분한 노력을 기울인다면 그것을 속일 수 있습니까? 나는 당신이 할 수 있다고 확신합니다.”

딥페이크와 다른 방식으로 싸우기

대신 Wolfram은 블록체인을 사용하는 것이 특정 유형의 딥페이크를 정확하게 찾아내는 최선의 선택이 될 것이라고 믿습니다. 기계 학습보다 블록체인을 사용하는 것에 대한 그의 의견은 2019년으로 거슬러 올라가며, 궁극적으로 블록체인 접근 방식이 우리의 딥페이크 문제에 대한 보다 정확한 솔루션을 제공할 수 있다고 말했습니다.

“이미지 및 비디오 시청자가 정기적으로 블록체인(및 '데이터 삼각 측량 계산') 웹 브라우저가 보안 인증서를 확인하는 방식과 비슷합니다.”라고 Wolfram은 기사에서 썼습니다. 사이언티픽 아메리칸에 게재.

블록체인은 데이터를 블록에 저장한 다음 시간 순서대로 연결하고 분산형 블록체인은 변경할 수 없으므로 입력된 데이터는 되돌릴 수 없습니다.

Wolfram은 동영상을 블록체인에 넣으면 촬영 시간을 확인할 수 있고, 위치 및 기타 상황 정보를 통해 변경되었는지 알 수 있습니다. 방법.

"일반적으로 사진이나 비디오를 맥락화하는 메타데이터가 많을수록 더 잘 알 수 있습니다."라고 그는 말했습니다. "블록체인에서 시간을 속일 수는 없습니다."

그러나 Wolfram은 기계 학습이든 블록체인 사용이든 사용하는 방법은 시도하는 딥페이크 유형에 따라 다릅니다. (즉, Kim Kardashian이 어리석은 말을 하는 비디오 또는 정치인이 성명을 발표하거나 제안).

그는 "블록체인 접근 방식은 머신러닝 이미지 처리가 특정 종류의 딥 페이크로부터 보호하는 것처럼 특정 종류의 딥 페이크로부터 보호합니다."라고 말했습니다.

결론은 다가오는 딥페이크 대홍수에 대처할 때 우리 모두의 경계인 것 같습니다.