Kaip algoritminis šališkumas gali pakenkti paaugliams
Key Takeaways
- Algoritminis šališkumas yra žalingas paaugliams, kurie daug laiko praleidžia internete, teigia ekspertai.
- „Twitter“ naudotojai neseniai susidūrė su problema, kai juodi veidai buvo išnaikinti baltųjų naudai.
- Mokslininkai teigia, kad besivystančios paauglių smegenys gali būti ypač jautrios žalingam algoritminio šališkumo poveikiui.
Kai kurioms technologijoms būdingas išankstinis nusistatymas, žinomas kaip algoritminis šališkumas, gali būti žalingas daugeliui grupių, tačiau ekspertai teigia, kad tai ypač kenkia paaugliams.
Algoritminis šališkumas, kai kompiuterinės sistemos rodo išankstinius rezultatus, yra a auga problema. „Twitter“ naudotojai neseniai rado šališkumo platformoje pavyzdį, kai vaizdų aptikimo algoritmas apkarpo nuotraukas buvo iškirpti juodus veidus baltųjų naudai. Bendrovė atsiprašė už problemą, bet dar nepateikė pataisymo. Tai neobjektyvumo, su kuriuo susiduria paaugliai prisijungę prie interneto, pavyzdys, kurių jie daro daugiau nei bet kuri kita amžiaus grupė, sako ekspertai.
„Dauguma paauglių nežino, kad socialinės žiniasklaidos įmonės turi jas, kad reklamuotų konkretų turinį, kuris, jų nuomone, patiks vartotojams, [siekiant] priversti juos kuo ilgiau likti platformoje. Dr Mai-Ly Nguyen Steers, Duquesne universiteto Slaugos mokyklos docentas, tyrinėjantis paauglių / kolegijos studentų naudojimą socialinėje žiniasklaidoje, sakė interviu el. paštu.
„Net jei yra tam tikras sąmoningumo apie algoritmą lygis, nesulaukus pakankamai simpatijų ir komentarų, poveikis vis tiek yra stiprus ir gali turėti įtakos paauglių savigarbai“, – pridūrė Steers.
Besivystančios smegenys
Algoritminis šališkumas gali paveikti paauglius nenumatytais būdais, nes jų priekinė žievė vis dar vystosi, Mikaela Pisani, vyriausioji duomenų mokslininkė prie Rootstrap, paaiškinta interviu el. paštu.
„Poveikis, kai nesulaukiama pakankamai teigiamų įvertinimų ir komentarų, vis dar yra stiprus ir gali turėti įtakos paauglių savigarbai.
„Paaugliai yra ypač pažeidžiami „socialinio fabriko“ fenomeno, kur algoritmai kuria visuomenės grupes. internetinėse platformose, sukelia nerimą ir depresiją, jei nepatenkinami paauglio socialinio patvirtinimo poreikiai“, – sakė jis. Pisani. "Algoritmai supaprastinami remiantis ankstesniais netobulais duomenimis, todėl stereotipai per daug reprezentuojami, o tai reiškia, kad tapatybės formavimas yra niuansuotas.
„Žvelgiant plačiau, mums, kaip visuomenei, belieka abejoti, ar norime, kad algoritmai formuotų mūsų paauglių keliones į pilnametystę ir ar ši sistema netgi palaiko, o ne slopina asmenybę augimas?"
Pasak ekspertų, dėl šių problemų didėja poreikis kuriant algoritmus atsižvelgti į paauglius.
„Remiantis vystymosi specialistų, duomenų mokslininkų ir jaunimo gynėjų indėliu, XXI a. duomenų privatumas ir algoritminis dizainas taip pat galėtų būti sukurti atsižvelgiant į konkrečius paauglių poreikius protas“, Neseniai parašė Harvardo doktorantė Avriel Epps-Darling. „Jei vietoj to ir toliau sumenkinsime arba ignoruosime būdus, kuriais paaugliai yra pažeidžiami algoritminio rasizmo, žala greičiausiai atsilieps per ateinančias kartas.
Kova su šališkumu
Kol nėra sprendimo, kai kurie mokslininkai bando rasti būdų, kaip sumažinti šališkų algoritmų daromą žalą jauniems žmonėms.
„Intervencijos buvo sutelktos į tai, kad paaugliai pripažintų, kad jų socialinės žiniasklaidos modeliai daro neigiamą poveikį savo psichinę sveikatą ir bando sugalvoti strategijas, kaip tai sušvelninti (pvz., sumažinti socialinių tinklų naudojimą),“ sakė.
„Kai kurie mūsų kalbinti kolegijos studentai nurodė, kad jaučiasi priversti kurti turinį, kad išliktų „svarbu“, net jei nenori išeiti ar skelbti“, – tęsė ji. "Tačiau jie mano, kad turi kurti turinį, kad išlaikytų ryšius su savo sekėjais ar draugais."
Galutinis atsakymas galėtų būti žmonių šališkumo pašalinimas iš kompiuterių. Bet kadangi programuotojai yra tik žmonės, tai yra sunkus iššūkis, sako ekspertai.
Vienas iš galimų sprendimų yra sukurti kompiuterius, kurie būtų decentralizuoti ir užprogramuoti pamiršti išmoktus dalykus Jono kostiumas, vyriausiasis technologijų pareigūnas robotikos įmonė KODA.
„Per decentralizuotą tinklą duomenys ir tų duomenų analizė yra kaupiami ir analizuojami iš kelių taškų“, – interviu el. paštu sakė Suitas. „Duomenys renkami ir apdorojami ne iš vieno AI proto apdorojimo jo algoritmo ribose, o šimtus ar net tūkstančius.
„Kai tie duomenys renkami ir analizuojami, senos „išvados“ ar pertekliniai duomenys pasimiršta. Naudojant šią sistemą, algoritmas, kuris galėjo prasidėti nuo šališkumo, galiausiai ištaisys ir pakeis tą šališkumą, jei pasirodys, kad jis neteisingas.
Nors šališkumas gali būti sena problema, gali būti būdų, kaip su tuo kovoti, bent jau internete. Pirmas žingsnis yra sukurti kompiuterius, kurie atsikratytų išankstinių nusistatymų.