AI kunne hjælpe med at stoppe spredningen af ​​falske nyheder

Misinformation er et voksende problem online, men hjælpen kan være på vej takket være kunstig intelligens (AI).

Forskning tyder på at maskinlæringsteknikker og blockchain-teknologi kan bekæmpe spredning af falske nyheder. Den nye tilgang lader indholdsskabere fokusere på at bekæmpe desinformation på områder, hvor misinformation er mest sandsynligt, at forårsage betydelig offentlig skade. Eksperter siger finde effektive metoder til at bekæmpe desinformation er af yderste vigtighed.

"Vi er afhængige af information for at træffe informerede beslutninger," Manjeet Rege, direktør for Center for Anvendt Kunstig Intelligens ved University of St. Thomas, fortalte Lifewire i et e-mailinterview. "Så når forbrugere ikke er i stand til at skelne mellem ægte og falsk information, kan de være mere modtagelige for at træffe dårlige beslutninger. Med fremkomsten af ​​sociale medier kan falske nyheder hurtigt gå viralt og kan potentielt føre til knæfald fra offentligheden."

Opretter eller finder AI falske nyheder?

Et papir produceret af forskere fra Binghamton University's School of Management anbefalede at anvende maskinlæringssystemer til vurdere indholdets potentielle skade på sit publikum og udpege de mest grove lovovertrædere. For eksempel, under toppen af ​​COVID-19-pandemien, blev falske nyheder, der promoverede ubekræftede behandlinger over vacciner, identificeret.

"Vi er mest tilbøjelige til at bekymre os om falske nyheder, hvis det forårsager skade, der påvirker læsere eller publikum. Hvis folk opfatter, at der ikke er nogen skade, er de mere tilbøjelige til at dele misinformationen," sagde Thi Tran, professor i ledelsesinformationssystemer, der ledede forskningen, i pressemeddelelsen. "Skaden kommer fra, om publikum handler i henhold til påstande fra misinformationen, eller hvis de afviser den korrekte handling på grund af det. Hvis vi har en systematisk måde at identificere, hvor misinformation vil gøre mest skade, vil det hjælpe os med at vide, hvor vi skal fokusere på afbødning."

Efterhånden som AI udvikler sig og bliver mere sofistikeret, bliver det sværere for individer at skelne mellem, hvad der er ægte, og hvad der ikke er, Sameer Hajarnis, Chief Product Officer for OneSpan, et digitalt verifikationsfirma, noteret i en e-mail.

"For eksempel gør AI-genererede deepfakes tale- og videophishing meget farligere," tilføjede han. "Kriminelle, der bruger social engineering-angreb, er stigende, og truslen fra deepfakes er nu udbredt."

I en nylig hændelse, Martin Lewis, en fremtrædende fortaler for forbrugerfinansiering fra Storbritannien, støttede tilsyneladende en investeringsmulighed fra Elon Musk. Det blev dog senere afsløret, at videoen i virkeligheden var en AI-genereret deepfake, og investeringsmuligheden viste sig at være en svigagtig fidus uden egentlig støtte fra Lewis eller Musk.

Mange tilgange til at bekæmpe desinformation

Binghamton University-tilgangen er ikke den eneste måde at hjælpe med at bekæmpe falske nyheder. Mens AI kan generere forfalsket lyd og videoer, det kan også bruges til at detektere ægthed, sagde Rege.

"Faktisk kan noget af det AI-genererede indhold se meget realistisk ud for et menneske, men det kan ret nemt identificeres som falsk af en AI-model," tilføjede han.

En anden metode er at fremlægge bevis for personlighed ved hjælp af kryptografi, cybersikkerhedsekspert og IEEE-medlem Yale Fox sagde i et e-mailinterview. Hvis du vil optage en video og lægge den på sociale medier, er den bedste ting at gøre at kode videoen med en offentlig nøgle.

"Derfra har videoen enten nøglen, eller også har den ikke," tilføjede han. "Hvis den har nøglen kodet, så er den meget let at opdage på enhver platform uden overhovedet at bruge AI. Det kan køre på stort set enhver enhed, i en browser osv. Hvis videoen bliver lagt ud på en valgt telefon, vil den have nøglen og bestå verifikationstests."

Falske nyheder er et politisk og kulturelt problem såvel som et teknisk spørgsmål, Subramaniam Vincent, leder af uddannelsen journalistik og medieetik ved Markkula Center for Anvendt Etik kl Santa Clara Universitet, sagde i en e-mail.

"Det vil kræve samarbejde og opbygning af konsensus blandt AI-industriens aktører og nyhedsmedievirksomheder, og også skabe et nyt skub i retning af demokratisk kultur i politik og valg opstrøms for teknologi," han tilføjet. "Alt dette vil gøre det lettere at imødegå det uundgåelige tilbageslag, som dårlige skuespillere skaber, når AI-værktøjer bruges til at opdage, mærke og stoppe distributionen af ​​falske nyheder. AI er et stærkt element, men ikke det eneste, i det større rod i en kamp for demokrati i Amerika og andre steder."