AI bi lahko pomagal zaustaviti širjenje lažnih novic

Napačne informacije so vedno večji problem na spletu, vendar je pomoč morda na poti zahvaljujoč umetni inteligenci (AI).

Raziskave kažejo da se lahko tehnike strojnega učenja in tehnologija veriženja blokov borijo proti širjenje lažnih novic. Nov pristop ustvarjalcem vsebin omogoča, da se osredotočijo na boj proti dezinformacijam na področjih, kjer je verjetnost, da bodo napačne informacije povzročila veliko javno škodo. Strokovnjaki pravijo iskanje učinkovitih metod za boj proti dezinformacijam je izrednega pomena.

"Za sprejemanje premišljenih odločitev se zanašamo na informacije," Manjeet Rege, direktor Centra za uporabno umetno inteligenco pri Univerza St. Thomas,

povedal Lifewire v intervjuju po elektronski pošti. "Torej, ko potrošniki ne morejo razlikovati med resničnimi in lažnimi informacijami, so lahko bolj dovzetni za sprejemanje slabih odločitev. S pojavom družbenih medijev lahko lažne novice hitro postanejo viralne in potencialno povzročijo klečeplazne reakcije javnosti."

Ali AI ustvarja ali išče lažne novice?

Članek, ki so ga pripravili raziskovalci s šole za management Univerze Binghamton, je svetoval uporabo sistemov za strojno učenje oceniti morebitno škodo vsebine na svoje občinstvo in natančno določi najbolj hude prestopnike. Med vrhuncem pandemije COVID-19 so bile na primer ugotovljene lažne novice, ki promovirajo nepreverjena zdravljenja namesto cepiv.

»Najverjetneje nas bodo zanimale lažne novice, če povzročajo škodo, ki vpliva na bralce ali občinstvo. Če ljudje menijo, da ni nobene škode, je večja verjetnost, da bodo delili dezinformacije," je v sporočilu za javnost dejal Thi Tran, profesor informacijskih sistemov upravljanja, ki je vodil raziskavo. "Škoda izvira iz tega, ali se občinstvo ravna v skladu s trditvami iz dezinformacij ali če zaradi tega zavrne pravilno ukrepanje. Če imamo sistematičen način za ugotavljanje, kje bodo napačne informacije naredile največ škode, nam bo to pomagalo vedeti, kam se osredotočiti na ublažitev."

Ker se umetna inteligenca razvija in postaja vse bolj izpopolnjena, postaja posameznikom težje razlikovati, kaj je resnično in kaj ne, Sameer Hajarnis, glavni produktni direktor podjetja OneSpan, podjetje za digitalno preverjanje, je navedeno v e-poštnem sporočilu.

"Deepfake, ki jih ustvari umetna inteligenca, na primer naredijo glasovno in video lažno predstavljanje veliko bolj nevarno," je dodal. "Kriminalci, ki uporabljajo napade socialnega inženiringa, so v porastu in grožnja, ki jo predstavljajo deepfake, je zdaj zelo razširjena."

V nedavni incident, je Martin Lewis, ugledni zagovornik potrošniških financ iz Združenega kraljestva, očitno podprl naložbeno priložnost Elona Muska. Vendar se je kasneje izkazalo, da je bil video v resnici Deepfake, ustvarjen z AI, naložbena priložnost pa se je izkazala za goljufivo prevaro, brez dejanske podpore Lewisa ali Muska.

Številni pristopi k boju proti dezinformacijam

Pristop univerze Binghamton ni edini način za boj proti lažnim novicam. Medtem AI lahko ustvari ponarejen zvok in videi, lahko se uporablja tudi za ugotavljanje pristnosti, je rekel Rege.

"Pravzaprav so lahko nekatere vsebine, ustvarjene z umetno inteligenco, človeku videti zelo realistične, vendar jih lahko model umetne inteligence dokaj enostavno prepozna kot lažno," je dodal.

Druga metoda je predložitev dokazila o osebnosti z uporabo kriptografije, strokovnjaka za kibernetsko varnost in člana IEEE Yale Fox je dejal v intervjuju po elektronski pošti. Če želite posneti videoposnetek in ga objaviti na družbenih medijih, bi bilo najbolje, da videoposnetek kodirate z javni ključ.

"Od tam dalje ima video ključ ali pa ga nima," je dodal. "Če ima ključ kodiran, ga je zelo enostavno zaznati na kateri koli platformi, ne da bi uporabili AI. Deluje lahko na skoraj vseh napravah, v brskalniku itd. Če je videoposnetek objavljen na izbranem telefonu, bi imel ključ in bi opravil preizkuse preverjanja."

Lažne novice so politični in kulturni problem, pa tudi tehnično vprašanje, Subramaniam Vincent, direktorica programa za novinarstvo in medijsko etiko na Centru za uporabno etiko Markkula na Univerza Santa Clara, je zapisano v e-poštnem sporočilu.

»Potrebno bo sodelovanje in doseganje soglasja med akterji industrije umetne inteligence in podjetji za novice, in tudi ustvarjanje novega zagona k demokratični kulturi v politiki in volitvah pred tehnologijo," je dodano. »Vse to bo olajšalo boj proti neizogibnemu odvračanju, ki ga povzročijo slabi akterji, ko se orodja AI uporabljajo za odkrivanje, označevanje in zaustavitev distribucije lažnih novic. Umetna inteligenca je močan element, a ne edini v večji zmešnjavi bitke za demokracijo v Ameriki in drugod."