Cos'è un falso profondo?

I Deep Fake sono immagini false, registrazioni audio e video che suonano e sembrano reali. La stessa parola deepfake è un portmanteau di deep learning e fake, che si riferisce al modo in cui l'apprendimento automatico e intelligenza artificiale (AI) vengono sfruttati per creare questi falsi.

La tecnologia deep fake è stata impiegata per scopi di intrattenimento spensierato, ma ha anche messo le parole dentro le bocche dei politici, hanno consentito truffe di ingegneria sociale e persino lanciato volti di celebrità in contenuti pornografici senza consenso.

Come vengono creati i deep fake?

Potrebbe sembrare fantascienza o magia degli effetti speciali di Hollywood, ma la tecnologia deep fake è sorprendentemente accessibile. Il metodo più comune è il deep fake di scambio del volto, che sostituisce il volto di una persona in un video con il volto di una persona diversa.

Questo metodo di scambio di volti si basa sull'alimentazione di dati video della persona originale e fotografie del volto sostitutivo a un algoritmo di intelligenza artificiale. L'intelligenza artificiale analizza il volto originale e il nuovo volto, trova somiglianze e mappa il nuovo volto sul video esistente fotogramma per fotogramma.

L'intero processo di creazione di un falso profondo può essere automatizzato da servizi basati sul web, ma gli algoritmi di intelligenza artificiale lo sono disponibile anche per il download, consentendo a chiunque abbia abbastanza esperienza di creare falsi profondi a casa propria computer.

Processi simili possono essere utilizzati per creare immagini false che sembrano reali, animare foto fisse utilizzando i dati di movimento di un attore e persino impersonare realisticamente la voce di una persona. Tutto si basa sull'intelligenza artificiale per scomporre i dati di input, come foto, video e registrazioni audio, e quindi sintetizzare nuovi media indistinguibili da quelli reali.

Alcuni esempi di falsi profondi

Molti falsi profondi sono dannosi, come mettere le parole in bocca a un politico, o di natura pornografica, ma la tecnologia è stata utilizzata anche per mezzi più spensierati.

Ecco alcuni falsi profondi che puoi controllare tu stesso:

• George Lucas e Harrison Ford: Questo video deep fake è solo uno di una serie di video umoristici di Collider che filmano impressionisti di talento e sostituiscono i loro volti con celebrità. In questo esempio, George Lucas e Harrison Ford reagiscono a Baby Yoda di Il mandaloriano.
• The Rock finto profondamente su The Rock: In questo falso profondo di Corridor Crew, usano una tecnologia falsa profonda per riparare la rappresentazione della valle inquietante di Dwayne Johnson nei panni del Re Scorpione fornendo dati video AI di Johnson da prima nello stesso film.
• Il labbro di Henry Cavill fissato in Superman: Gli artisti VFX sono stati costretti a nascondere i baffi di Cavill in alcune scene di Justice League con risultati da cartone animato. Questo confronto fianco a fianco mostra quanto meglio può fare un falso profondo.
• La faccia di Arnold Schwarzenegger su Bill Hader: In questa clip, Bill Hader impersona la voce di Arnold e il viso di Arnold è profondamente simulato da Ctrl Alt Face sul corpo di Hader. L'effetto viene rimosso quando Hader usa la sua voce normale e applicato quando impersona Schwarzenegger.
• La voce di Joe Rogan è stata profondamente falsata dall'IA: In questa clip, l'audio del podcast di Joe Rogan è stato inserito in un algoritmo di intelligenza artificiale per creare un modello vocale realistico in grado di dire praticamente qualsiasi cosa.

Come si riconoscono i falsi profondi?

Con l'avanzare della tecnologia, è diventato sempre più difficile individuare la differenza tra un falso profondo e quello reale. Alcuni sono più facili da individuare di altri, ma i migliori sembrano e suonano estremamente reali. Ti sarà più facile individuare quelli creati da dilettanti che non sono in grado di sfruttare un sacco di esperienza e potenza di elaborazione, ma devi essere alla ricerca di segni rivelatori di AI interferenza.

Ecco come puoi individuare un falso profondo:

1. Guarda i bordi del viso: Se all'IA non sono stati forniti dati di input sufficienti, la nuova faccia potrebbe essere incollata goffamente sul testa originale, creando evidenti linee di demarcazione o risultando in una forma del viso che non sembra Giusto.
2. Esamina i capelli: Se riesci a vedere i singoli peli che si incrociano sul viso, probabilmente è un video reale. L'intelligenza artificiale ha difficoltà a generare capelli realistici e i singoli peli di solito non saranno visibili nelle parti di un video generate dall'intelligenza artificiale.
3. Attenzione a bocca e denti: L'intelligenza artificiale in genere ha problemi a generare singoli denti, che possono essere facilmente individuati se il video ha una risoluzione sufficientemente alta. Cerca anche eventuali errori quando la bocca si apre e si chiude.
4. Se la persona distoglie lo sguardo, metti in pausa il video: I deep fake funzionano molto bene quando la persona è di fronte alla telecamera, ma possono avere difficoltà quando si passa a una foto di profilo o se la persona si allontana completamente dalla telecamera.
5. Diffida delle fonti di informazioni sconosciute: Sebbene sia possibile che una fonte attendibile venga ingannata e che esegua un falso profondo come se fosse reale, è molto meno probabile che tu venga ingannato se ti attieni a fonti di notizie attendibili.