AI gali šnipinėti jūsų pokalbius

Daugelis programų gali suprasti jūsų kalbą telefono ar vaizdo skambučių metu, o ekspertai teigia, kad jos gali kelti grėsmę privatumui.

Kolumbijos universiteto mokslininkų sukurta nauja technologija, vadinama Neuroninio balso kamufliažas, gali pasiūlyti gynybą. Jis sukuria pasirinktinį garso triukšmą fone, kai kalbate, supainiodamas dirbtinį intelektą (AI), kuris klauso ir perrašo balsus.

„AI transkripcijos buvimas kelia pasitikėjimo problemų“, Michaelas Huthas, vienas iš Xayn, privatumą saugančios paieškos sistemos, įkūrėjų ir Londono imperatoriškojo koledžo Kompiuterijos katedros vadovas, kuris nedalyvavo tyrime, sakė Lifewire interviu el. paštu. „Susitikimo dalyviai gali būti atsargesni dėl to, kuriuos dalykus jie kelia ir kaip transkribuojama jų kalba. Tai gali būti geras dalykas, nes tai gali pagerinti pagarbų elgesį, bet taip pat gali būti blogas dalykas, nes pokalbis gali būti ne toks atviras dėl abejonių dėl naudojamos technologijos.

Klausymas ir mokymasis

Kolumbijos tyrėjai dirbo kurdami algoritmą, kuris realiu laiku galėtų nutraukti neuroninius tinklus. Naujasis metodas naudoja „numatomas atakas“ – signalą, kuris gali sutrikdyti bet kurį žodį, kurį automatinio kalbos atpažinimo modeliai išmokyti transkribuoti. Be to, kai atakos garsai leidžiami per eterį, jie turi būti pakankamai garsūs, kad sutrikdytų bet kokį nesąžiningą „klausymosi“ mikrofoną, kuris gali būti toli.

„Pagrindinis techninis iššūkis norint tai pasiekti buvo užtikrinti, kad viskas veiktų pakankamai greitai. Carlas Vondrickas, informatikos profesorius Kolumbijoje ir vienas iš tyrimo, kuriame aprašomas naujas požiūris, autorių, sakoma pranešime spaudai. „Mūsų algoritmas, kuris 80 % atvejų sugeba blokuoti nesąžiningą mikrofoną, kad jis teisingai išgirstų jūsų žodžius, yra greičiausias ir tiksliausias mūsų bandymų aikštelėje.

Naujoji technika užtikrina našumą realiuoju laiku, numatant ataką prieš signalo ar žodžio ateitį. Komanda optimizavo ataką, todėl jos garsumas panašus į įprastą foninį triukšmą, leidžiantį žmonėms a erdvė bendrauti natūraliai ir sėkmingai nekontroliuojama automatinio kalbos atpažinimo sistema.

Mokslininkai teigė, kad jų technika veikia net tada, kai nieko nežinai apie nesąžiningą mikrofoną, pavyzdžiui, jo vietą ar net jame veikiančią kompiuterio programinę įrangą. Jis užmaskuoja žmogaus balsą per eterį, paslėpdamas jį nuo šių klausymosi sistemų ir nesukeldamas nepatogumų patalpoje esančių žmonių pokalbiui.

„Kol kas mūsų metodas tinka didžiajai daliai anglų kalbos žodyno, todėl planuojame jį taikyti algoritmą daugiau kalbų, taip pat galiausiai, kad šnabždesys skambėtų visiškai nepastebimas“, Mia Chiquier, pranešime spaudai sakė pagrindinis tyrimo autorius ir Vondricko laboratorijos doktorantas.

Privatūs pokalbiai

Tarsi viso to būtų negana, reklama gali būti nukreipta į jus pagal garsą, surinktą iš jūsų išmaniojo telefono ar išmaniųjų namų įrenginių.

„Naudojant tokius įrenginius kaip [„Amazon Echo“] ir jų analogus, šie įrenginiai ne tik visada yra jūsų namuose ir nuolat klausosi visko, ką sakote ar darote, bet ir daugelį metų. duomenų rinkimas iš naudotojų – patobulino natūralios kalbos apdorojimą (ištartą žodį paverčia tekstu/naudojamais prietaisų duomenimis, derinant mikrofonus, programinę įrangą ir dirbtinį intelektą). Erikas Haigas, strateginių konsultacijų ir rizikos vystymo įmonės „Harbour Research“ bendradarbis, sakė el.

Pokalbio kalbos AI transkripcijos dabar yra standartinės komercinės programinės įrangos dalis, sakė Huthas. Pavyzdžiui, „Microsoft Teams“ turi susitikimo įrašų parinktį su įtaisytomis AI transkripcijomis, kurias visi dalyviai gali matyti realiuoju laiku. Visas protokolas gali būti naudojamas kaip susitikimo įrašas. Paprastai tokie nuorašai leidžia protokoluoti (dar žinomas kaip užrašų priėmimas), kai protokolas tvirtinamas kitame posėdyje.

„Žmonės gali būti susirūpinę, kad bus šnipinėti, kai įjungta AI transkripcija“, – pridūrė Huthas.
„Tai atrodo labai panašu į rūpestį, kad pokalbis būtų įrašytas be sutikimo arba slaptai.

Tačiau ne visi sutinka, kad išmanieji įrenginiai kelia grėsmę. Daugumai žmonių nereikia jaudintis dėl programų, kurios klausosi jūsų pokalbių, Bradas Hongas„Lifewire“ el. paštu pasakojo kibernetinio saugumo įmonės „Horizon3“ klientų sėkmės vadovas. Jis sakė, kad dabar didžiausią susirūpinimą kelia ne tai, kas jus įrašo, o tai, kaip jie saugo duomenis.

„Visos išgirstos istorijos apie įjungtą mikrofoną kompiuteryje ar mobiliuosiuose įrenginiuose, Alexa ar Google Home Klausymasis ar net vyriausybės stebėjimas, tiesa, kad visa tai verčia pasauliečiui susukti skrandį“, – pridūrė Hongas. "Tačiau apskritai žmonės retai atsiduria tokioje situacijoje, kuri iš tikrųjų reikalauja užmaskuoti savo balsus."