Hvordan språkprogramvare kan styrke cyberforsvaret vårt

Programvare som forstår menneskelig tale og skrift blir i økende grad brukt for å avverge hackere, men eksperter er uenige om verdien av denne tilnærmingen.

EN nytt essay hevder at programmer kan brukes til å forstå bot- eller spam-adferd i e-posttekst sendt av en maskin som utgir seg for å være et menneske. Programvaren kan forstå den interne strukturen til selve e-posten for å identifisere mønstre av spammere og typen meldinger de sender.

"Når maskinlæring forbedres, og spesielt ettersom språkforståelsen forbedres, vil phishing-e-poster bli en saga blott," cybersikkerhetsanalytiker Erik Firenze fortalte Lifewire i et e-postintervju.

Bli kjent med talen din

Naturlig språkbehandling er teknologien som brukes til å forutsi hvilke ord du vil skrive neste gang i en tekstmelding, Paul Bischoff, personvernadvokat med Comparitech, sa i et e-postintervju.

"NLP kan brukes til å forbedre og forenkle bruddbeskyttelsen mot phishing-forsøk," Bartley Richardson, Senior Engineering Manager, NVIDIA Morpheus, skrev nylig for CIO. "I denne sammenhengen kan NLP utnyttes til å forstå "bot" eller "spam" oppførsel i e-posttekst sendt av en maskin som utgir seg for å være et menneske, og det kan brukes til å forstå den interne strukturen til selve e-posten for å identifisere mønstre av spammere og typen meldinger de sende."

Dessverre hjelper ikke NLP å forsvare seg mot nettangrep som utnytter en feil i et stykke programvare, Chase Cotton, en professor i elektro- og datateknikk ved University of Delaware, fortalte Lifewire i en e-post. Men angrep rettet mot mennesker i form av spam og phishing kan beskyttes gjennom NLP.

Tara Lemieux, en seniormedarbeider hos Schellman, et sikkerhets- og personvernselskap, fortalte Lifewire via e-post at NLP til og med kan gi innsikt i konteksten og opprinnelsen til et cyberangrep.

"Akkurat som et fingeravtrykk, kan det brukes til å informere vår nåværende rettsmedisinske analyse, og - med støtte fra kunstig intelligens (AI) – det kan hjelpe til med å isolere mønstre og atferd for å potensielt hindre fremtidige angrep," Lemieux la til.

Mens NLP-programvare bruker språk, etterligner andre typer nettsikkerhetsprogramvare den menneskelige hjernen. For eksempel, Avskjær X er et av mange produkter som bruker deep learning nevrale nettverk som fungerer omtrent som det menneskelige sinnet.

"Skjæring X kan gjøre på millisekunder det som kan ta mye lengre tid for selv de mest dyktige IT-fagfolk – oppdager både kjent og ukjent skadelig programvare uten å stole på signaturer," Lemieux sa. "Over tid bør vi forvente at disse verktøyene blir mer sofistikerte i deres evne til å forutsi, isolere og forsvare våre informasjonssystemer og data."

Ingen universalmiddel

Men forvent ikke at NLP løser problemet med hackere en gang for alle.

"Disse ML- og AI-systemene vil fortsette å bli bedre," sa Cotton. "Men så gode som de blir, kan mennesker ofte dra nytte av feil i disse systemene."

Ekspert på nettsikkerhet Dave Blakey, i et e-postintervju med Lifewire, påpekte at NLP er relativt treg, så den kan ikke reagere raskt på trusler – der det ofte kreves millisekunders responstider.

Språkmetoden kan også enkelt omgås, forklarte Blakey. Så raskt som NLP utvikler seg for å oppdage bot-skrevne meldinger, vil det også fremme robotenes evne til å skrive disse meldingene, noe som resulterer i en dødgang.

"Én menneskeskrevet setning kan brukes av en spambot for å omgå NLP-basert botdeteksjon," la han til.

"NLP er effektivt til å oppdage mer åpenbart og vanlig språk brukt av roboter, men det er fortsatt ingen match for mennesker når det kommer til mer nyansert språk eller ukjente trusler som de ikke har møtt før," Bischoff sa. "NLP er fortsatt, og vil fortsette å være, nødvendig for å håndtere et betydelig volum av botaktivitet som ikke krever menneskelig tilsyn."