AI galėtų nustoti šnipinėti numatydamas, ką pasakysi
- Tyrėjai sukūrė metodą, kaip sumaišyti pokalbius, kad nugalėtų nesąžiningus mikrofonus nuo mūsų pokalbių fiksavimo.
- Šis metodas yra reikšmingas, nes jis veikia realiuoju laiku perduodant garsą ir su minimaliu mokymu.
- Ekspertai sveikina tyrimą, tačiau mano, kad jis nėra labai naudingas eiliniam išmaniųjų telefonų naudotojui.
BraunS / Getty Images
Mus supa išmanieji įrenginiai su mikrofonais, bet ką daryti, jei jie buvo pažeisti, kad galėtų mus pasiklausyti?
Siekdami apsaugoti mūsų pokalbius nuo šnipinėjimo, Kolumbijos universiteto mokslininkai sukūrė a Neuroninio balso kamufliažas metodas, kuris realiu laiku sutrikdo automatines kalbos atpažinimo sistemas, nesukeldamas nepatogumų žmonėms.
„Į mūsų gyvenimą įsiveržus [išmaniesiems balsu įjungiamiems įrenginiams], privatumo idėja pradeda išgaruoti, nes šie klausymosi įrenginiai visada yra įjungti ir stebi, kas yra sakoma. Charlesas Everetas, kibernetinės advokacijos direktorius, Gilus instinktas, sakė Lifewire el. paštu. „Šis tyrimas yra tiesioginis atsakas į poreikį paslėpti arba užmaskuoti asmens balsą ir pokalbius nuo šių elektroninių pasiklausytojų, žinomų ar nežinomų tam tikroje srityje.
Pokalbis
Tyrėjai sukūrė sistemą, kuri generuoja tylius šnabždesius, kuriuos galite leisti bet kurioje patalpoje, kad neleistumėte nesąžiningiems mikrofonams šnipinėti jūsų pokalbius.
Tai, kaip šio tipo technologija neleidžia pasiklausyti, primena Everette apie triukšmą slopinančias ausines. Užuot generuodami tylius šnabždesius, kad pašalintų foninį triukšmą, tyrėjai transliuoja foną garsai, kurie sutrikdo dirbtinio intelekto (DI) algoritmus, kurie garso bangas interpretuoja į suprantamą garsą.
Tokie žmogaus balso maskavimo mechanizmai nėra unikalūs, tačiau „Neural Voice Camouflage“ skiriasi nuo kitų metodų tuo, kad jis veikia realiuoju laiku perduodant garsą.
„Kad veiktų naudojant gyvą kalbą, mūsų požiūris turi numatyti [teisingą kodavimo garsą] į ateitį, kad jie būtų leidžiami realiuoju laiku“, – pažymi mokslininkai savo darbe. Šiuo metu šis metodas tinka daugumai anglų kalbos.
Hansas Hansenas, generalinis direktorius Prekės ženklas3D, sakė Lifewire, kad tyrimas yra labai svarbus, nes jis atakuoja pagrindinį šių dienų AI sistemų silpnumą.
Pašto pokalbyje Hansenas paaiškino, kad dabartinės gilaus mokymosi AI sistemos apskritai ir natūrali kalba atpažinimas ypač veikia apdorojus milijonus kalbos duomenų įrašų, surinktų iš tūkstančių garsiakalbiai. Priešingai, „Neural Voice Camouflage“ veikia tik po dviejų sekundžių įvesties kalbos.
„Asmeniškai, jei man rūpi įrenginiai, kurie klausosi, mano sprendimas nebūtų pridėti kito klausymo įrenginio, kuris siekia generuoti foninį triukšmą.
Neteisingas medis?
Brianas Chappellas, vyriausiasis saugumo strategas Beyond Trust, mano, kad tyrimas yra naudingesnis verslo vartotojams, kurie baiminasi, kad gali atsidurti tarp jų pažeisti įrenginiai, kurie klausosi raktinių žodžių, rodančių, kad yra vertinga informacija kalbama.
„Kur ši technologija galėtų būti įdomesnė, yra labiau autoritarinio stebėjimo būsenoje, kur AI vaizdo ir balso spausdinimo analizė naudojama prieš piliečius. Jamesas Maude'as, „BeyondTrust“ kibernetinio saugumo tyrėjas, „Lifewire“ pasakojo el. paštu.
Maude pasiūlė, kad geresnė alternatyva būtų įdiegti privatumo kontrolę, kaip šie įrenginiai fiksuoja, saugo ir naudoja duomenis. Be to, Chappell mano, kad tyrėjo metodo naudingumas yra ribotas, nes jis nėra skirtas sustabdyti žmonių pasiklausymą.
„Turėkite omenyje, kad, bent jau teoriškai, naudojant tokį įrankį, Siri, Alexa, „Google Home“ ir bet kuri kita sistema, suaktyvinta ištartu paleidimo žodžiu, kad jūsų nepaisytų“, – sakė Chappell.
Jacons Standartinė fotografija Ltd / Getty Images
Tačiau ekspertai mano, kad vis labiau įtraukiant AI/ML specifines technologijas į mūsų išmaniuosius įrenginių, visiškai įmanoma, kad ši technologija gali atsidurti mūsų telefonuose, netoli ateitis.
Maude yra susirūpinusi, nes dirbtinio intelekto technologijos gali greitai išmokti atskirti triukšmą nuo tikro garso. Jis mano, kad nors sistema iš pradžių gali būti sėkminga, ji greitai gali virsti katės ir pelės žaidimu, nes klausymosi įrenginys išmoksta filtruoti trukdančius garsus.
Dar labiau nerimą kelia tai, kad Maude atkreipė dėmesį į tai, kad kiekvienas juo besinaudojantis asmuo iš tikrųjų gali atkreipti į save dėmesį balso atpažinimo sutrikdymas atrodytų neįprastas ir gali reikšti, kad bandote pasislėpti kažkas.
„Asmeniškai, jei man rūpi įrenginiai, kurie klausosi, mano sprendimas nebūtų pridėti kito klausymo įrenginio, kuris siekia generuoti foninį triukšmą“, – dalijosi Maude. „Ypač dėl to, kad tai tik padidina riziką, kad įrenginys ar programa bus įsilaužta ir galės manęs klausytis.