AI kan bidra til å stoppe spredningen av falske nyheter

Feilinformasjon er et økende problem på nettet, men hjelp kan være på vei takket være kunstig intelligens (AI).

Forskning tyder på at maskinlæringsteknikker og blokkjedeteknologi kan bekjempe spredning av falske nyheter. Den nye tilnærmingen lar innholdsskapere fokusere på å bekjempe desinformasjon i områder der feilinformasjon er mest sannsynlig å forårsake betydelig offentlig skade. Eksperter sier finne effektive metoder for å bekjempe desinformasjon er av største betydning.

"Vi er avhengige av informasjon for å ta informerte beslutninger," Manjeet Rege, direktøren for Senter for anvendt kunstig intelligens ved University of St. Thomas, fortalte Lifewire i et e-postintervju. "Så når forbrukere ikke klarer å skille mellom ekte og falsk informasjon, kan de være mer utsatt for å ta dårlige beslutninger. Med bruken av sosiale medier kan falske nyheter raskt gå viralt og kan potensielt føre til knekast fra publikum."

Skaper eller finner AI falske nyheter?

En artikkel produsert av forskere fra Binghamton University's School of Management anbefalte å bruke maskinlæringssystemer vurdere potensiell skade av innhold på sitt publikum og finne de mest grove lovbryterne. For eksempel, under toppen av COVID-19-pandemien, ble falske nyheter som fremmet ubekreftede behandlinger over vaksiner identifisert.

"Det er mest sannsynlig at vi bryr oss om falske nyheter hvis det forårsaker skade som påvirker lesere eller publikum. Hvis folk oppfatter at det ikke er noen skade, er det mer sannsynlig at de deler feilinformasjonen," sa Thi Tran, professor i ledelsesinformasjonssystemer som ledet forskningen, i pressemeldingen. "Skaden kommer fra om publikum handler i henhold til påstander fra feilinformasjonen eller om de nekter den riktige handlingen på grunn av det. Hvis vi har en systematisk måte å identifisere hvor feilinformasjon vil gjøre mest skade, vil det hjelpe oss å vite hvor vi skal fokusere på avbøtende tiltak."

Etter hvert som AI utvikler seg og blir mer sofistikert, blir det vanskeligere for enkeltpersoner å skille hva som er ekte og hva som ikke er det, Sameer Hajarnis, Chief Product Officer for OneSpan, et digitalt verifiseringsselskap, notert i en e-post.

"For eksempel gjør AI-genererte deepfakes tale- og video-phishing mye farligere," la han til. "Kriminelle som bruker sosiale ingeniørangrep er på vei oppover, og trusselen som utgjøres av deepfakes er nå utbredt."

I en nylig hendelse, Martin Lewis, en fremtredende talsmann for forbrukerfinansiering fra Storbritannia, støttet tilsynelatende en investeringsmulighet av Elon Musk. Imidlertid ble det senere avslørt at videoen faktisk var en AI-generert deepfake, og investeringsmuligheten viste seg å være en svindel, uten faktisk støtte fra Lewis eller Musk.

Mange tilnærminger til å bekjempe desinformasjon

Binghamton University-tilnærmingen er ikke den eneste måten å bidra til å bekjempe falske nyheter. Samtidig som AI kan generere forfalsket lyd og videoer, den kan også brukes til å oppdage autentisitet, sa Rege.

"Faktisk kan noe av det AI-genererte innholdet se veldig realistisk ut for et menneske, men kan ganske enkelt identifiseres som falskt av en AI-modell," la han til.

En annen metode er å gi bevis på personlighet ved hjelp av kryptografi, cybersikkerhetsekspert og IEEE-medlem Yale Fox sa i et e-postintervju. Hvis du vil spille inn en video og legge den på sosiale medier, er det beste du kan gjøre å kode videoen med en offentlig nøkkel.

"Derfra har videoen enten nøkkelen eller så har den ikke," la han til. "Hvis den har nøkkelen kodet, så er det veldig enkelt å oppdage på hvilken som helst plattform uten engang å bruke AI. Den kan kjøres på praktisk talt alle enheter, i en nettleser osv. Hvis videoen blir lagt ut på en valgt telefon, vil den ha nøkkelen og bestå bekreftelsestester."

Falske nyheter er et politisk og kulturelt problem så vel som et teknisk problem, Subramaniam Vincent, direktør for programmet journalistikk og medieetikk ved Markkulasenteret for anvendt etikk kl Santa Clara University, sa i en e-post.

"Det vil kreve samarbeid og konsensusbygging blant AI-industriens aktører og nyhetsmediebedrifter, og også generere en ny drivkraft mot demokratisk kultur i politikk og valg oppstrøms for teknologi," han la til. "Alt dette vil gjøre det lettere å motvirke det uunngåelige tilbakeslaget som dårlige skuespillere skaper når AI-verktøy brukes til å oppdage, merke og stoppe distribusjonen av falske nyheter. AI er et kraftig element, men ikke det eneste, i det større rotet i en kamp for demokrati i Amerika og andre steder."