Школе можда користе вештачку интелигенцију да би пратиле ученике - ево зашто

Школе све више иду даље од надзорних камера како би држале на оку своје ученике.

Нови извештај Даллас Морнинг Невс је открио да је употреба вештачке интелигенције (АИ) за праћење ученика широко распрострањена у школама широм земље. Многи кампуси кажу да је компјутерски надзор неопходан да би се заштитили и спасили животи студената који су у опасности да нанесу штету себи или другима. Али неки посматрачи плачу погрдно.

„Када ученици знају да их прате помоћу вештачке интелигенције, мања је вероватноћа да ће делити истините мисли на мрежи и пажљивији су у погледу онога што претражују“, Нир Кшетри, професор на Универзитет Северне Каролине у Греенсбороу

, који проучава дигиталне заједнице, рекао је за Лифевире путем е-поште. „Ово може обесхрабрити угрожене групе, као што су студенти са проблемима менталног здравља, да добију потребне услуге. Када ученици знају да се прати сваки њихов покрет и све прочитано и написано, мање је вероватно да ће се развити у одрасле особе са високим нивоом самопоуздања.”

Гледање ученика

Новински извештај тврди да је компанија Социал Сентинел понудила школама технологију за скенирање постова ученика на друштвеним мрежама. Најмање 37 факултета користи Социал Сентинел од 2015. Социал Сентинел је тврдио да се његова услуга не може користити за праћење протеста, али је у извештају утврђено да је коришћена у ту сврху.

„Током догађаја, упозорења о претњи могу пружити важан увид о вођама или агитаторима који би могли да желе сукоб са законом спровођење, општа клима гомиле и потенцијал за раст масе“, написао је Социал Сентинел у мејлу према извештај. Навигате360, компанија која је купила Социал Сентинел 2020. позвао истрагу нетачне и застареле.

Неки инсајдери из индустрије кажу да је све већа употреба вештачке интелигенције за надзор неизбежна. „Парадокс друштвених медија је да како расте наш дигитални отисак, тако расте и наша употреба друштвених медија“, Цхрис Пицхе, оснивач Смартер АИ, компаније која повезује ЦЦТВ са софтверски дефинисаним АИ камерама, рекао је за Лифевире у интервјуу е-поштом. „Овде државни прописи играју кључну улогу. На пример, европске и америчке владе су увеле право на заборав према ГДПР, ЦЦПА и другим државним прописима САД.

Мањине под АИ микроскопом

Кшетри је рекао да би употреба вештачке интелигенције за праћење ученика могла имати несразмеран утицај на мањине. Шансе црних студената да буду суспендовани су више од три пута веће него код њихових белих вршњака, рекао је он.

„Након процене означеног садржаја, продавци пријављују сваку забринутост школским званичницима, који предузимају дисциплинске мере од случаја до случаја“, додао је он. „Недостатак надзора у коришћењу ових алата од стране школа може довести до даље штете за ученике мањина.

Водећи модели вештачке интелигенције имају 50 одсто већу вероватноћу да ће твитове које су написали Афроамериканци означити као „увредљиве“ од оних које су написали други, рекао је Кшетри. 2,2 пута је већа вероватноћа да ће означити твитове написане у афроамеричком сленгу.

„Ови алати такође неповољније утичу на сексуалне и родне мањине“, додао је он. Компанија Гаггле је "наводно означила 'геј',' 'лезбејка' и друге појмове везане за ЛГБТК јер повезују се са порнографијом, иако се термини често користе за описивање нечијег идентитет."

Продавци система за надзор користе несигурне системе које хакери могу да искористе, рекао је Кшетри. У марту 2021, компанија МцАфее је открила софтвер за рачунарску безбедност неколико рањивости у систему праћења ученика Нетопов софтвер Висион Про Едуцатион добављача. На пример, Нетоп није шифровао комуникацију између наставника и ученика да би блокирао неовлашћени приступ.

„Софтвер је користило преко 9.000 школа широм света за праћење милиона ученика“, Кшетри додато." Рањивост је омогућила хакерима да стекну контролу над веб камерама и микрофонима у студентским компјутери“.

Многе компаније нуде школама начине за праћење ученика путем интернета. Платформе друштвених медија имају власнички софтвер за праћење, на пример, за откривање и блокирање ботова и нежељене поште, приметио је Пиче. Факултети, компаније и владе користе софтвер за праћење друштвених медија (или скраћено СММС) од добављача, укључујући Хоотсуите, Спроут Социал и Зохо Социал.

„Баш као градски трг, друштвени медији су јавни форум, а не приватни“, додао је он. „Кад год користимо друштвене медије, остављамо дигиталне отиске које друштвени медији деле и продају платформе трећим странама, на пример преко Твитера Елону Маску и Фејсбука Кембриџ аналитици“.