Kaip AI gali manipuliuoti jūsų pasirinkimais

Ekspertai teigia, kad dirbtinis intelektas (AI) ir mašininio mokymosi algoritmai vis dažniau mokosi, kaip paveikti vartotojų elgesį.

Australijos nacionalinės mokslo agentūros mokslininkai neseniai sukūrė būdą, kaip rasti ir išnaudoti pažeidžiamumą, kai žmonės pasirenka DI. Naujausi tyrimai yra tik viena iš AI valdomų sistemų, skirtų manipuliuoti žmogaus sprendimų priėmimu, bangos.

„Daugybė būdų, kuriais dirbtinis intelektas jau daro įtaką elgesiui, nesibaigia“, – sako Kentaro Toyama. Mičigano universiteto informacijos mokykla ir autorius Geek Heresy: Socialinių pokyčių gelbėjimas nuo technologijų kulto, sakė interviu elektroniniu paštu.

„Tiesą sakant, jei kada nors atlikote „Google“ paiešką ir ieškojote nuorodos, jus paveikė AI sistema, kuri atspėjo jūsų pomėgius ir pateikė rezultatus, kurie, jos nuomone, jums buvo tinkamiausi“.

AI vs. Žmonės

Australijos tyrime, paskelbtame a naujausias popierius, žmonių dalyviai įvairiuose eksperimentuose žaidė žaidimus prieš kompiuterį. Pirmojo eksperimento metu dalyviai spustelėjo raudonos arba mėlynos spalvos langelius, kad laimėtų pinigų.

AI buvo sėkmingas maždaug 70% laiko, išmokdamas dalyvio pasirinkimo modelius ir nukreipdamas juos į konkretų pasirinkimą.

Kito eksperimento metu dalyviai stebėjo ekraną ir paspaudė mygtuką, kai jiems buvo rodomas tam tikras simbolis, arba nepaspaudė, kai buvo pasiūlytas kitas. AI išmoko pertvarkyti simbolius, todėl dalyviai padarė daugiau klaidų.

Eksperimentų rezultatas, tyrėjai padarė išvadą, kad AI išmoko iš dalyvių atsakymų. Tada mašina nustatė ir nukreipė pažeidžiamumą žmonių priimant sprendimus. Tiesą sakant, AI gali manipuliuoti dalyviais, kad jie atliktų tam tikrus veiksmus.

Stebėtojų teigimu, tai, kad dirbtinis intelektas arba mašininis mokymasis gali manipuliuoti žmonėmis, neturėtų stebinti.

„AI daro įtaką mūsų elgesiui kiekvieną dieną“, – interviu el. paštu sakė Tamara Schwartz, Pensilvanijos Jorko koledžo kibernetinio saugumo ir verslo administravimo docentė.

„Mes nuolat girdime apie algoritmus tokiose socialinės žiniasklaidos programose kaip Facebook ar Twitter. Šie algoritmai nukreipia mūsų dėmesį į susijusį turinį ir sukuria „aido kameros“ efektą, o tai savo ruožtu daro įtaką mūsų elgesiui.

TikTok žiūri

Šiuo metu sudėtingiausias socialinės žiniasklaidos algoritmas yra „TikTok“, sakė Schwartzas. Programa analizuoja, kas jus domina, kiek laiko ką nors žiūrite ir kaip greitai ką nors praleidžiate, tada patobulina savo pasiūlymus, kad galėtumėte toliau žiūrėti.

„Dėl šio AI algoritmo, kuris supranta, kas jums patinka, kaip mokotės ir kaip renkatės informaciją, „TikTok“ yra daug labiau priklausomas nei kitos platformos“, – pridūrė ji. „Mes tai žinome, nes vidutinis laikas, kurį vartotojai praleidžia „TikTok“, yra 52 minutės.

Dirbtinio intelekto manipuliavimas žmogaus elgesiu gali turėti teigiamos naudos, interviu el. paštu teigė Chrisas Nicholsonas, AI bendrovės „Pathmind“ generalinis direktorius. Pavyzdžiui, visuomenės sveikatos agentūros galėtų naudoti dirbtinį intelektą, kad paskatintų žmones priimti geresnius sprendimus.

„Tačiau socialinė žiniasklaida, vaizdo žaidimų kūrėjai, reklamuotojai ir autoritariniai režimai ieško būdų, kaip paskatinti žmonių priimti sprendimus, kurie neatitinka jų interesų, ir tai suteiks jiems naujų įrankių tai padaryti“, – jis pridėta.

Toyama sakė, kad etinės problemos, susijusios su AI įtakojančiu elgesį, dažnai yra laipsnio. AI leidžia kryptingai reklamuoti, kai galima išnaudoti individualius pageidavimus ir trūkumus.

„Pavyzdžiui, dirbtinio intelekto sistema gali atpažinti žmones, kurie bando mesti rūkyti, ir pabarstyti juos viliojančiomis cigarečių reklamomis“, – pridūrė jis.

Ne visi sutinka, kad dirbtinio intelekto manipuliavimas žmogaus elgesiu yra problemiškas. Klasikinė psichologija ir AI stebi duomenis, pažymėjo Jasonas J. Corso, direktorius Stevenso dirbtinio intelekto institutas, interviu el. paštu.

„Žmonių mokslininkai tikriausiai geriau apibendrina stebėjimus ir išsklaido teorijas apie galimą žmogaus elgesį plačiau pritaikomi, o dirbtinio intelekto modeliai būtų labiau tinkami identifikuoti konkrečias problemai būdingus niuansus“, – sakė Corso. sakė.

„Etiniu požiūriu aš nematau skirtumo tarp jų.