Školy mohou používat umělou inteligenci ke sledování studentů – zde je důvod

Školy stále častěji jdou nad rámec bezpečnostních kamer, aby dohlížely na své studenty.

Nová zpráva Dallas Morning News odhalil že používání umělé inteligence (AI) k monitorování studentů je ve školách celostátně rozšířeno. Mnoho kampusů říká, že monitorování počítače je nezbytné k ochraně a záchraně životů studentů, kterým hrozí, že ublíží sobě nebo ostatním. Ale někteří pozorovatelé křičí odporně.

„Když studenti vědí, že jsou sledováni pomocí AI, je méně pravděpodobné, že budou sdílet pravdivé myšlenky online a budou opatrnější, co hledají,“ Nir Kshetri, profesor na University of North Carolina v Greensboro, který studuje digitální komunity, řekl Lifewire prostřednictvím e-mailu. „To může odradit zranitelné skupiny, jako jsou studenti s problémy s duševním zdravím, od získání potřebných služeb. Když studenti vědí, že každý jejich pohyb a vše přečtené a napsané je sledováno, je také méně pravděpodobné, že se z nich vyvinou dospělí s vysokou úrovní sebevědomí.“

Sledování studentů

Zpráva tvrdí, že společnost Social Sentinel nabídla školám technologii pro skenování příspěvků studentů na sociálních sítích. Od roku 2015 používá Social Sentinel nejméně 37 vysokých škol. Social Sentinel tvrdil, že jeho službu nelze použít pro monitorování protestů, ale zpráva zjistila, že byla k tomuto účelu použita.

„Během události mohou výstrahy před hrozbami poskytnout důležité informace o vůdcích nebo agitátorech, kteří mohou chtít konfrontaci se zákonem. vymáhání, obecné klima davu a potenciál růstu davu,“ napsal Social Sentinel v e-mailu zpráva. Navigate360, společnost, která získala Social Sentinel v roce 2020, svolal vyšetřování nepřesné a zastaralé.

Někteří zasvěcenci z oboru říkají, že rostoucí využívání AI pro sledování je nevyhnutelné. „Paradoxem sociálních médií je, že jak roste naše digitální stopa, roste i naše používání sociálních médií,“ Chris Piche, zakladatel společnosti Smarter AI, která propojuje CCTV se softwarově definovanými kamerami AI, řekl Lifewire v e-mailovém rozhovoru. „Tady hrají klíčovou roli vládní nařízení. Například evropské a americké vlády zavedly právo být zapomenut podle GDPR, CCPA a dalších státních předpisů USA.“

Menšiny pod mikroskopem AI

Kshetri řekl, že použití umělé inteligence k monitorování studentů by mohlo mít neúměrný dopad na menšiny. Šance černých studentů, že budou suspendováni, jsou podle něj více než třikrát vyšší než u jejich bílých vrstevníků.

„Po vyhodnocení nahlášeného obsahu prodejci nahlásí jakékoli obavy školním úředníkům, kteří případ od případu přijímají disciplinární opatření,“ dodal. "Nedostatečný dohled nad používáním těchto nástrojů ve školách by mohl vést k dalšímu poškození menšinových studentů."

U předních modelů umělé inteligence je o 50 procent vyšší pravděpodobnost, že označí tweety napsané Afroameričany jako „urážlivé“ než ty, které napsali ostatní, řekl Kshetri. Je u nich 2,2krát vyšší pravděpodobnost, že označí tweety napsané v afroamerickém slangu.

"Tyto nástroje také nepříznivěji ovlivňují sexuální a genderové menšiny," dodal. Společnost Gaggle „údajně označila výrazy „gay“, „lesba“ a další výrazy související s LGBTQ, protože oni jsou spojováni s pornografií, ačkoli termíny jsou často používány popisovat něčí identita."

Prodejci sledovacích systémů používají nezabezpečené systémy, které mohou hackeři zneužít, řekl Kshetri. V březnu 2021 objevila společnost McAfee software pro počítačovou bezpečnost několik zranitelností v systému monitorování studentů software Vision Pro Education od dodavatele Netop. Například Netop nešifroval komunikaci mezi učiteli a studenty, aby zablokoval neoprávněný přístup.

"Tento software byl používán více než 9 000 školami po celém světě ke sledování milionů studentů," Kshetri Tato chyba zabezpečení umožnila hackerům získat kontrolu nad webovými kamerami a mikrofony ve studentských počítače."

Mnoho společností nabízí školám způsoby, jak sledovat studenty přes internet. Platformy sociálních médií mají proprietární monitorovací software, například pro detekci a blokování robotů a spamu, poznamenal Piche. Vysoké školy, společnosti a vlády používají software pro monitorování sociálních médií (nebo zkráceně SMMS) od dodavatelů, včetně Hootsuite, Sprout Social a Zoho Social.

„Stejně jako městské náměstí jsou sociální média veřejným fórem, nikoli soukromým,“ dodal. „Kdykoli používáme sociální média, zanecháváme digitální stopy, které sociální média sdílejí a prodávají platformy třetím stranám, například prostřednictvím Twitteru Elonu Muskovi a Facebooku Cambridge Analytica.“