비디오 위조는 쉽고 깊은 향수를 보여줍니다.

전문가들은 실제 사람의 비디오를 시뮬레이션할 수 있는 소위 "딥 페이크"를 만들 수 있는 새로운 소프트웨어에 주의해야 한다고 경고합니다.

깊은 향수, 회사에서 출시 마이헤리티지, 유명 작곡가에서 죽은 친척에 이르기까지 모든 사람을 되살리는 사용자와 함께 소셜 미디어에서 유행하고 있습니다. 소프트웨어는 엇갈린 반응을 이끌어내고 있으며 어떤 사람들은 창조물에 기뻐하고 다른 사람들은 그들을 소름 끼치는 발견. 이 기술은 사람들이 실제로 해보지 않은 일을 하는 동영상을 만드는 것이 얼마나 쉬운지 보여줍니다.

SRI International의 부국장인 Aaron Lawson은 "딥페이크 기술은 점점 더 정교해지고 위험해지고 있습니다. 음성 기술 및 연구(STAR) 연구실, 이메일 인터뷰에서 말했다. "이것은 부분적으로 인공 지능의 특성 때문입니다. '전통' 기술을 개선하려면 인간의 시간과 에너지가 필요하지만 AI는 스스로 학습할 수 있습니다.

"하지만 AI의 자체 개발 능력은 양날의 검"이라고 Lawson은 말했습니다. "AI가 자비로운 일을 하도록 만들어졌다면 훌륭합니다. 그러나 AI가 딥 페이크와 같은 악의적인 것을 위해 설계되면 그 위험은 전례가 없습니다."

사진에 생명을 불어넣는 소프트웨어

계보 웹사이트 MyHeritage는 지난 달 애니메이션 엔진을 도입했습니다. Deep Nostalgia로 알려진 이 기술을 통해 사용자는 MyHeritage 웹사이트를 통해 사진에 애니메이션을 적용할 수 있습니다. D-ID라는 회사는 사람의 얼굴 움직임을 디지털 방식으로 재현하는 MyHeritage용 알고리즘을 설계했습니다. MyHeritage 웹사이트에 따르면 이 소프트웨어는 사진에 움직임을 적용하고 사람의 얼굴이 일반적으로 움직이는 것처럼 표정을 수정합니다.

캔자스 주립 대학의 컴퓨터 과학 교수인 Lior Shamir는 이메일 인터뷰에서 Deep Nostalgia는 딥 페이크 기술이 점점 더 접근하기 쉬워지고 있음을 보여줍니다. 그것은 빠르게 진행되고 가짜와 실제 비디오 및 오디오 사이의 미묘한 차이까지 제거합니다.

Shamir는 "실시간 딥페이크에 대한 상당한 진전도 있었다. "예를 들어 Zoom은 특정 사람과 회의를 하면서 완전히 다른 사람의 목소리를 보고 들을 수 있습니다."

또한 언어 기반 딥 페이크의 수가 증가하고 있습니다. 스티븐스 인공 지능 연구소 Stevens Institute of Technology의 이메일 인터뷰에서 말했습니다. 그는 "특정 의제에 대한 딥 페이크 텍스트의 전체 단락을 생성하는 것은 매우 어렵지만 딥 자연어 처리의 현대적 발전으로 이를 가능하게 만들고 있다"고 덧붙였다.

딥 페이크를 감지하는 방법

딥 페이크 탐지 기술은 아직 초기 단계에 있지만 입으로 시작하여 이를 식별할 수 있는 몇 가지 방법이 있다고 Corso는 말했습니다.

Corso는 "누군가가 말을 할 때 입 안의 모양이 매우 다양하여 설득력 있게 애니메이션을 만들기가 어렵습니다."라고 설명했습니다. "할 수는 있지만 머리의 나머지 부분보다 어렵습니다. Deep Nostalgia 비디오는 딥 페이크를 만드는 동안 사진이 'I love you' 또는 다른 문구를 말할 수 있는 능력을 보여주지 않습니다. 그러려면 입을 벌리고 다물어야 하는데, 이는 딥페이크 세대에게 매우 어려운 일이다."

고스팅은 또 다른 경품이라고 Corso는 덧붙였습니다. 머리 가장자리 주변이 흐릿해지면 "소스 이미지에서 사용 가능한 빠른 동작 또는 제한된 픽셀의 결과입니다. 귀가 부분적으로 일시적으로 사라지거나 머리카락이 예상하지 못한 곳에서 흐려질 수 있습니다."라고 그는 말했습니다.

또한 얼굴을 가로지르는 날카로운 선과 같이 한쪽은 더 어둡고 다른 쪽은 더 밝은 가짜 비디오를 발견하려고 할 때 색상 변화를 확인할 수 있습니다.

"컴퓨터 알고리즘은 종종 이러한 왜곡 패턴을 감지할 수 있습니다."라고 Shamir가 말했습니다. "하지만 딥페이크 알고리즘은 빠르게 발전하고 있습니다. 딥페이크와 딥페이크가 쉽게 입힐 수 있는 피해를 보호하기 위해 엄격한 법이 요구되는 것은 불가피하다"고 말했다.