Koulut saattavat käyttää tekoälyä oppilaiden seuraamiseen – tässä miksi

Koulut menevät yhä enemmän valvontakameroiden ulkopuolelle pitääkseen oppilaitaan silmällä.

Dallas Morning Newsin uusi raportti on paljastanut että tekoälyn (AI) käyttö oppilaiden seurantaan on yleistä kouluissa valtakunnallisesti. Monet kampukset sanovat, että tietokonevalvonta on välttämätöntä sellaisten opiskelijoiden hengen suojelemiseksi ja pelastamiseksi, jotka ovat vaarassa vahingoittaa itseään tai muita. Mutta jotkut tarkkailijat itkevät pahaa.

"Kun opiskelijat tietävät, että heitä seurataan tekoälyllä, he epätodennäköisemmin jakavat todellisia ajatuksiaan verkossa ja ovat tarkempia hakiessaan." Nir Kshetri, professori North Carolinan yliopisto Greensborossa

, joka tutkii digitaalisia yhteisöjä, kertoi Lifewirelle sähköpostitse. ”Tämä voi estää haavoittuvia ryhmiä, kuten mielenterveysongelmista kärsiviä opiskelijoita, saamasta tarvittavia palveluita. Kun oppilaat tietävät, että heidän jokaista liikettään ja kaikkea lukemaansa ja kirjoitettuun katsotaan, heistä ei myöskään kehittyy kovinkaan todennäköisesti aikuisia, joilla on korkea itseluottamus.”

Katsomassa opiskelijoita

Uutisraportti väittää, että yritys Social Sentinel tarjosi kouluille teknologiaa opiskelijoiden sosiaalisen median viestien skannaamiseksi. Ainakin 37 korkeakoulua on käyttänyt Social Sentinelia vuodesta 2015 lähtien. Social Sentinel on väittänyt, että sen palvelua ei voida käyttää mielenosoitusten seurantaan, mutta raportin mukaan sitä käytettiin tähän tarkoitukseen.

"Tapahtuman aikana uhkahälytykset voivat tarjota tärkeitä tietoja johtajista tai kiihottajista, jotka saattavat haluta vastakkainasettelua lain kanssa täytäntöönpano, yleinen ilmapiiri ja joukkojen kasvupotentiaali", Social Sentinel kirjoitti sähköpostissa raportti. Navigate360, yritys, joka osti Social Sentinelin vuonna 2020, soitti tutkimukseen epätarkkoja ja vanhentuneita.

Jotkut alan sisäpiiriläiset sanovat, että tekoälyn lisääntyvä käyttö valvontaan on väistämätöntä. "Sosiaalisen median paradoksi on, että digitaalisen jalanjälkemme kasvaessa myös sosiaalisen median käyttömme kasvaa." Chris Piche, Smarter AI: n perustaja, yritys, joka yhdistää CCTV: n ohjelmiston määrittämiin tekoälykameroihin, kertoi Lifewirelle sähköpostihaastattelussa. "Tässä hallituksen määräykset ovat avainasemassa. Esimerkiksi Euroopan ja Amerikan hallitukset ovat ottaneet käyttöön oikeuden tulla unohdetuksi GDPR: n, CCPA: n ja muiden Yhdysvaltain osavaltiosäännösten mukaisesti."

Vähemmistöt tekoälymikroskoopin alla

Kshetri sanoi, että tekoälyn käytöllä opiskelijoiden seurannassa voi olla suhteettoman suuri vaikutus vähemmistöihin. Hän sanoi, että mustien opiskelijoiden todennäköisyys jäädä eroon on yli kolme kertaa suurempi kuin heidän valkoisten ikätoveriensa.

"Arvioituaan merkityn sisällön toimittajat ilmoittavat kaikista huolenaiheistaan ​​koulun virkamiehille, jotka ryhtyvät kurinpitotoimiin tapauskohtaisesti", hän lisäsi. "Valvonnan puute koulujen näiden työkalujen käytössä voi johtaa lisähaitoihin vähemmistöopiskelijoille."

Johtavat tekoälymallit merkitsevät 50 prosenttia todennäköisemmin afroamerikkalaisten kirjoittamia twiittejä "loukkaaviksi" kuin muiden kirjoittamat, Kshetri sanoi. He ilmoittavat 2,2 kertaa todennäköisemmin tweetit, jotka on kirjoitettu afroamerikkalaisella slangilla.

"Nämä työkalut vaikuttavat myös seksuaali- ja sukupuolivähemmistöihin haitallisemmin", hän lisäsi. Yritys Gaggle on "ilmoitetun ilmoittanut "homot", "lesbo" ja muut LGBTQ-aiheisiin liittyvät termit, koska ne liittyvät pornografiaan, vaikka termejä käytetäänkin usein kuvaamaan omaa identiteetti."

Valvontajärjestelmien toimittajat käyttävät epävarmoja järjestelmiä, joita hakkerit voivat hyödyntää, Kshetri sanoi. Maaliskuussa 2021 tietoturvaohjelmistoyritys McAfee löysi useita haavoittuvuuksia opiskelijoiden seurantajärjestelmässä myyjä Netopin Vision Pro Education -ohjelmisto. Esimerkiksi Netop ei salannut opettajien ja oppilaiden välistä viestintää luvattoman käytön estämiseksi.

"Ohjelmistoa käytti yli 9 000 koulua ympäri maailmaa miljoonien oppilaiden seuraamiseen", Kshetri lisätty." Haavoittuvuuden ansiosta hakkerit pääsivät hallitsemaan opiskelijoiden verkkokameroita ja mikrofoneja tietokoneet."

Monet yritykset tarjoavat kouluille tapoja seurata opiskelijoita Internetin kautta. Sosiaalisen median alustoilla on omat valvontaohjelmistot esimerkiksi robottien ja roskapostin havaitsemiseen ja estämiseen, Piche huomautti. Korkeakoulut, yritykset ja hallitukset käyttävät sosiaalisen median seurantaohjelmistoja (tai lyhennettynä SMMS-viestejä) toimittajilta, mukaan lukien Hootsuite, Sprout Social ja Zoho Social.

"Aivan kuten kaupungin aukio, sosiaalinen media on julkinen foorumi, ei yksityinen", hän lisäsi. "Aina kun käytämme sosiaalista mediaa, jätämme digitaalisia jalanjälkiä, joita sosiaalinen media jakaa ja myy alustoja kolmansille osapuolille, esimerkiksi Twitterin kautta Elon Muskille ja Facebookin kautta Cambridge Analyticalle."