Teknologi Deepfake Facebook Tidak Akan Menyelamatkan Kami, Kata Para Ahli

click fraud protection
  • Karena deepfake menjadi lebih mudah dibuat, cara baru dan lebih baik untuk mengenalinya telah menjadi prioritas.
  • Teknologi deepfake-spotting Facebook menggunakan pembelajaran mesin terbalik untuk mengungkap apakah video itu deepfake atau bukan.
  • Para ahli mengatakan menggunakan teknologi blockchain akan menjadi cara terbaik untuk melihat apakah video itu nyata atau tidak karena metode ini bergantung pada data kontekstual.
Kata deepfake berwarna merah, seperti dalam kamus

Gambar Getty

Facebook yakin dengan kemampuannya model pembelajaran mesin untuk memerangi deepfake, tetapi para ahli mengatakan bahwa pembelajaran mesin sendiri tidak akan menyelamatkan kita dari penipuan deepfake.

Perusahaan seperti Facebook, Microsoft, dan Google semua bekerja untuk memerangi deepfake menyebar ke seluruh web dan jejaring sosial. Meskipun metodenya berbeda, ada satu metode anti-bodoh yang potensial untuk menemukan video palsu ini: blockchains.

“[Blockchains] memberi Anda banyak potensi untuk memvalidasi deepfake dengan cara yang merupakan bentuk validasi terbaik yang dapat saya lihat,” Stephen Wolfram, pendiri & CEO

Penelitian Wolfram dan penulis Jenis Ilmu Baru, kepada Lifewire melalui telepon.

Teknologi Deepfake-Spotting Facebook

Teknologi Deepfake telah berkembang pesat selama beberapa tahun terakhir. Video menyesatkan menggunakan metode pembelajaran mesin untuk melakukan hal-hal seperti menempatkan wajah seseorang ke tubuh orang lain, mengubah kondisi latar belakang, sinkronisasi bibir palsu, dan banyak lagi. Mulai dari parodi yang tidak berbahaya hingga membuat selebriti atau tokoh masyarakat mengatakan atau melakukan sesuatu yang tidak mereka lakukan.

Para ahli mengatakan bahwa teknologi berkembang dengan cepat, dan deepfake hanya akan menjadi lebih meyakinkan (dan lebih mudah dibuat) karena teknologi menjadi lebih banyak tersedia dan lebih inovatif.

Setengah dari wajah ditutupi oleh kode biner overlay

ApolitikNow / Flickr / CC Oleh 2.0

Facebook baru-baru ini memberikan lebih banyak wawasan tentang teknologi pendeteksi deepfake dalam kemitraan dengan Michigan State University. Jejaring sosial mengatakan itu bergantung pada rekayasa balik dari satu gambar yang dihasilkan kecerdasan buatan ke model generatif yang digunakan untuk memproduksinya.

Ilmuwan riset yang bekerja dengan Facebook mengatakan bahwa metode ini bergantung pada pengungkapan pola unik di balik model AI yang digunakan untuk menghasilkan deepfake.

“Dengan menggeneralisasi atribusi gambar ke pengenalan set terbuka, kami dapat menyimpulkan lebih banyak informasi tentang model generatif yang digunakan untuk membuat deepfake yang melampaui pengakuan bahwa itu belum terlihat sebelum. Dan dengan menelusuri kesamaan di antara pola kumpulan deepfake, kami juga dapat mengetahui apakah serangkaian gambar berasal dari satu sumber,” tulis ilmuwan riset Xi Yin dan Tan Hassner dalam posting blog Facebook tentang deepfake-spotting-nya. metode.

Kisi-kisi wajah

Facebook

Wolfram mengatakan masuk akal jika Anda menggunakan pembelajaran mesin untuk menemukan model AI tingkat lanjut (deepfake). Namun, selalu ada ruang untuk menipu teknologi.

“Saya sama sekali tidak terkejut bahwa ada cara pembelajaran mesin yang layak untuk [mendeteksi deepfake],” kata Wolfram. “Satu-satunya pertanyaan adalah jika Anda cukup berusaha, dapatkah Anda membodohinya? Aku yakin kamu bisa.”

Memerangi Deepfake dengan Cara Berbeda

Sebaliknya, Wolfram mengatakan bahwa dia percaya menggunakan blockchain akan menjadi pilihan terbaik untuk secara akurat menemukan jenis deepfake tertentu. Pendapatnya tentang penggunaan blockchain melalui pembelajaran mesin kembali ke 2019, dan dia mengatakan bahwa, pada akhirnya, pendekatan blockchain dapat memberikan solusi yang lebih akurat untuk masalah deepfake kami.

“Saya berharap pemirsa gambar dan video dapat secara rutin memeriksa blockchain (dan 'triangulasi data') komputasi') sedikit seperti bagaimana browser web sekarang memeriksa sertifikat keamanan, ”tulis Wolfram dalam sebuah artikel diterbitkan di Scientific American.

Karena blockchain menyimpan data dalam blok yang kemudian dirantai bersama dalam urutan kronologis, dan karena blockchain yang terdesentralisasi tidak dapat diubah, data yang dimasukkan tidak dapat diubah.

"Satu-satunya pertanyaan adalah jika Anda cukup berusaha, dapatkah Anda membodohinya? Aku yakin kamu bisa."

Wolfram menjelaskan bahwa dengan memasukkan video ke dalam blockchain, Anda akan dapat melihat waktu yang dibutuhkan, lokasi, dan informasi kontekstual lainnya yang memungkinkan Anda mengetahui apakah itu telah diubah dalam bentuk apa pun cara.

“Secara umum, semakin banyak metadata yang mengontekstualisasikan gambar atau video, semakin besar kemungkinan Anda untuk dapat menceritakannya,” katanya. “Anda tidak bisa memalsukan waktu di blockchain.”

Namun, Wolfram mengatakan metode yang digunakan — apakah itu pembelajaran mesin atau menggunakan blockchain — tergantung pada jenis deepfake yang Anda coba. untuk melindungi (yaitu, video Kim Kardashian mengatakan sesuatu yang konyol atau video politisi membuat pernyataan atau saran).

“Pendekatan blockchain melindungi terhadap beberapa jenis deep fakes tertentu, seperti halnya pemrosesan gambar pembelajaran mesin melindungi terhadap beberapa jenis deep fakes,” katanya.

Intinya, tampaknya, adalah kewaspadaan bagi kita semua dalam memerangi banjir deepfake yang akan datang.