Falske videoer er nemme, dybe nostalgishows

Vær forsigtig med ny software, der kan skabe såkaldte "dybe forfalskninger", hvor videoer af rigtige mennesker kan simuleres, advarer eksperter.

Dyb nostalgi, udgivet af virksomheden MyHeritage, er trending på sociale medier, hvor brugere genopliver alle fra berømte komponister til døde slægtninge. Softwaren trækker blandede reaktioner, hvor nogle mennesker er glade for kreationerne, og andre finder dem uhyggelige. Teknologien viser, hvor nemt det er at lave videoer af mennesker, der gør ting, de faktisk ikke har gjort i det virkelige liv.

"Deepfake-teknologi bliver mere sofistikeret og farligere," Aaron Lawson, assisterende direktør for SRI Internationals

Taleteknologi og -forskning (STAR) Laboratorium, sagde i et e-mailinterview. "Dette skyldes til dels arten af ​​kunstig intelligens. Hvor 'traditionel' teknologi kræver menneskelig tid og energi til at forbedre sig, kan AI lære af sig selv.

"Men AI's evne til at udvikle sig selv er et tveægget sværd," fortsatte Lawson. "Hvis en AI er skabt til at gøre noget velgørende, fantastisk. Men når en AI er designet til noget ondsindet som dybe forfalskninger, er faren hidtil uset."

Software bringer fotos til live

Slægtsforskningswebstedet MyHeritage introducerede animationsmotoren i sidste måned. Teknologien, kendt som Deep Nostalgia, lader brugere animere billeder via MyHeritage-webstedet. Et firma kaldet D-ID designede algoritmer til MyHeritage, der digitalt genskaber bevægelsen af ​​menneskelige ansigter. Softwaren anvender bevægelserne til fotografier og ændrer ansigtsudtryk, så de bevæger sig, som menneskelige ansigter normalt gør, ifølge MyHeritage-webstedet.

Deep Nostalgia viser, at deep-fake teknologi bliver mere tilgængelig, sagde Lior Shamir, professor i datalogi ved Kansas State University, i et e-mailinterview. Det skrider hurtigt frem og eliminerer selv de subtile forskelle mellem falsk og ægte video og lyd.

"Der har også været betydelige fremskridt hen imod dyb falsk i realtid, hvilket betyder, at overbevisende dybe falske videoer genereres på tidspunktet for videokommunikation," sagde Shamir. "For eksempel kan man have et Zoom-møde med en bestemt person, mens man ser og hører stemmen fra en helt anden person."

Der er også et stigende antal sprogbaserede dybe forfalskninger, Jason Corso, direktøren for Stevens Institut for Kunstig Intelligens på Stevens Institute of Technology, sagde i et e-mailinterview. "At generere hele afsnit med dyb falsk tekst mod en bestemt dagsorden er ret svært, men moderne fremskridt inden for dyb naturlig sprogbehandling gør det muligt," tilføjede han.

Sådan opdager du en dyb falsk

Mens deep-fake detektionsteknologi stadig er i et begyndende stadium, er der et par måder, du kan få øje på en, sagde Corso og startede med munden.

"Variabiliteten i udseendet af indersiden af ​​munden, når nogen taler, er meget høj, hvilket gør det svært at animere overbevisende," forklarede Corso. ”Det kan lade sig gøre, men det er sværere end resten af ​​hovedet. Læg mærke til, hvordan Deep Nostalgi-videoerne ikke demonstrerer fotografiets evne til at sige "Jeg elsker dig" eller en anden sætning under den dybe falske skabelse. At gøre det ville kræve åbning og lukning af munden, hvilket er meget vanskeligt for dyb falsk generering."

Ghosting er en anden giveaway, tilføjede Corso. Hvis du ser sløring rundt om kanterne af hovedet, er det et resultat af "hurtig bevægelse eller begrænsede pixels, der er tilgængelige i kildebilledet. Et øre kan delvist forsvinde et øjeblik, eller hår kan blive sløret, hvor du ikke ville forvente det," sagde han.

Du kan også holde øje med farvevariation, når du forsøger at se en dyb falsk video, såsom en skarp linje hen over ansigtet, med mørkere farver på den ene side og lysere på den anden.

"Computeralgoritmer kan ofte detektere disse forvrængningsmønstre," sagde Shamir. "Men dybe falske algoritmer udvikler sig hurtigt. Det er uundgåeligt, at der kræves strenge love for at beskytte mod dyb forfalskning og den skade, de let kan forårsage."