AI by mohla pomôcť zastaviť šírenie falošných správ

Dezinformácie sú na internete čoraz väčším problémom, no pomoc môže byť na ceste vďaka umelej inteligencii (AI).

Výskum naznačuje že techniky strojového učenia a technológia blockchain môžu bojovať proti šírenie falošných správ. Nový prístup umožňuje tvorcom obsahu zamerať sa na boj proti dezinformáciám v oblastiach, kde dezinformácie s najväčšou pravdepodobnosťou spôsobia značnú ujmu verejnosti. Odborníci hovoria nájsť účinné metódy boja proti dezinformáciám je nanajvýš dôležité.

"Pri prijímaní informovaných rozhodnutí sa spoliehame na informácie," Manjeet Rege, riaditeľ Centra aplikovanej umelej inteligencie pri Univerzita sv. Tomáša, povedal Lifewire v e-mailovom rozhovore. „Keď teda spotrebitelia nedokážu rozlíšiť medzi skutočnými a falošnými informáciami, môžu byť náchylnejší na zlé rozhodnutia. S príchodom sociálnych médií sa falošné správy môžu rýchlo stať virálnymi a môžu potenciálne viesť k prudkým reakciám verejnosti.“

Vytvára alebo nachádza AI falošné správy?

V dokumente, ktorý vypracovali výskumníci zo Školy manažmentu Binghamtonskej univerzity, sa odporúča použiť systémy strojového učenia posúdiť potenciálne poškodenie obsahu na svoje publikum a určiť najzávažnejších páchateľov. Napríklad počas vrcholu pandémie COVID-19 boli identifikované falošné správy propagujúce neoverenú liečbu pred vakcínami.

„S najväčšou pravdepodobnosťou sa budeme zaujímať o falošné správy, ak spôsobia škodu, ktorá má dopad na čitateľov alebo publikum. Ak ľudia vnímajú, že nie je nič zlé, je pravdepodobnejšie, že sa podelia o dezinformácie,“ uviedla Thi Tran, profesorka manažérskych informačných systémov, ktorá viedla výskum. „Škody pochádzajú z toho, či diváci konajú podľa tvrdení z dezinformácií, alebo či kvôli tomu odmietnu konať. Ak budeme mať systematický spôsob identifikácie, kde dezinformácie spôsobia najväčšie škody, pomôže nám to vedieť, kde sa zamerať na zmiernenie.

Ako sa AI vyvíja a je čoraz sofistikovanejšia, pre jednotlivcov je čoraz ťažšie rozlíšiť, čo je skutočné a čo nie, Sameer Hajarnis, hlavný produktový riaditeľ spoločnosti OneSpan, digitálna overovacia spoločnosť, uvedená v e-maile.

„Napríklad deepfakes generované AI robia hlasový a video phishing oveľa nebezpečnejším,“ dodal. "Zločinci využívajúci útoky sociálneho inžinierstva sú na vzostupe a hrozba, ktorú predstavujú deepfakes, je teraz rozšírená."

V nedávny incident, Martin Lewis, významný obhajca spotrebiteľských financií zo Spojeného kráľovstva, zdanlivo podporil investičnú príležitosť od Elona Muska. Neskôr sa však ukázalo, že video bolo v skutočnosti an deepfake generovaný AIa investičná príležitosť sa ukázala ako podvodný podvod bez skutočnej podpory od Lewisa alebo Muska.

Mnoho prístupov k boju proti dezinformáciám

Prístup Binghamtonskej univerzity nie je jediným spôsobom, ako pomôcť bojovať proti falošným správam. Zatiaľ čo AI môže generovať falošný zvuk a videá, dá sa použiť aj na zisťovanie pravosti, povedal Rege.

„V skutočnosti môže niektorý obsah generovaný AI vyzerať pre človeka veľmi realisticky, ale modelom AI sa dá pomerne ľahko identifikovať ako falošný,“ dodal.

Ďalšou metódou je poskytnúť dôkaz o osobe pomocou kryptografie, odborníka na kybernetickú bezpečnosť a člena IEEE Yale Fox povedal v e-mailovom rozhovore. Ak chcete nahrať video a umiestniť ho na sociálne siete, najlepšie by bolo zakódovať video pomocou verejný kľúč.

„Odtiaľ to video buď má, alebo nemá,“ dodal. „Ak má zakódovaný kľúč, potom je veľmi ľahké ho odhaliť na akejkoľvek platforme aj bez použitia AI. Môže bežať prakticky na akomkoľvek zariadení, v prehliadači atď. Ak je video zverejnené na zvolenom telefóne, bude mať kľúč a prejde overovacími testami."

Falošné správy sú politickým a kultúrnym problémom, ako aj technickým problémom, Subramaniam Vincent, riaditeľ programu žurnalistiky a mediálnej etiky v Centre aplikovanej etiky Markkula o hod. Univerzita Santa Clara, uviedol v e-maile.

„Bude si to vyžadovať spoluprácu a budovanie konsenzu medzi aktérmi z odvetvia AI a spravodajskými mediálnymi spoločnosťami, a tiež generovanie nového smeru smerom k demokratickej kultúre v politike a voľbách pred technologickým vývojom,“ povedal pridané. „To všetko uľahčí čeliť nevyhnutnému odporu, ktorý zlí herci vytvárajú, keď sa nástroje AI používajú na zisťovanie, označovanie a zastavenie distribúcie falošných správ. Umelá inteligencia je mocným prvkom, nie však jediným, vo väčšom chaose boja za demokraciu v Amerike a inde.“