Szkoły mogą wykorzystywać sztuczną inteligencję do kontrolowania uczniów — oto dlaczego

Szkoły coraz częściej wychodzą poza kamery monitorujące, aby mieć oko na swoich uczniów.

Nowy raport Dallas Morning News ujawnił że wykorzystanie sztucznej inteligencji (AI) do monitorowania uczniów jest powszechne w szkołach w całym kraju. Wiele kampusów twierdzi, że monitorowanie komputerów jest konieczne, aby chronić i ratować życie studentów, którzy są narażeni na ryzyko wyrządzenia krzywdy sobie lub innym. Ale niektórzy obserwatorzy płaczą.

„Kiedy uczniowie wiedzą, że są monitorowani przez sztuczną inteligencję, rzadziej dzielą się prawdziwymi przemyśleniami w Internecie i są bardziej ostrożni w zakresie tego, czego szukają” –

Nir Kshetri, profesor na Uniwersytet Karoliny Północnej w Greensboro, który bada społeczności cyfrowe, powiedział Lifewire za pośrednictwem poczty elektronicznej. „Może to zniechęcić grupy szczególnie wrażliwe, takie jak studenci z problemami psychicznymi, do korzystania z potrzebnych usług. Kiedy uczniowie wiedzą, że każdy ich ruch oraz wszystko, co jest czytane i pisane, jest obserwowane, jest też mniej prawdopodobne, że wyrosną na dorosłych z wysokim poziomem pewności siebie”.

Oglądanie studentów

Z doniesienia prasowego wynika, że ​​firma Social Sentinel zaoferowała szkołom technologię umożliwiającą skanowanie postów uczniów w mediach społecznościowych. Od 2015 r. co najmniej 37 uczelni korzystało z narzędzia Social Sentinel. Social Sentinel twierdziło, że jego usługi nie można używać do monitorowania protestów, ale z raportu wynika, że ​​była ona wykorzystywana do tego celu.

„Podczas wydarzenia alerty o zagrożeniach mogą dostarczyć ważnych informacji na temat przywódców lub agitatorów, którzy mogą chcieć konfrontacji z prawem egzekwowanie prawa, ogólny klimat tłumu i potencjał wzrostu tłumu” – napisał Social Sentinel w e-mailu według raport. Navigate360, firma, która przejęła Social Sentinel w 2020 roku, nazwał śledztwem niedokładne i nieaktualne.

Niektórzy znawcy branży twierdzą, że coraz szersze wykorzystanie sztucznej inteligencji do nadzoru jest nieuniknione. „Paradoks mediów społecznościowych polega na tym, że wraz ze wzrostem naszego śladu cyfrowego rośnie także sposób korzystania z mediów społecznościowych” Chrisa Piche’a, założyciel Smarter AI, firmy łączącej CCTV z kamerami AI definiowanymi programowo, powiedział Lifewire w wywiadzie e-mailowym. „W tym miejscu kluczową rolę odgrywają regulacje rządowe. Na przykład rządy europejskie i amerykańskie wprowadziły prawo do bycia zapomnianym na mocy RODO, CCPA i innych przepisów stanowych USA.

Mniejszości pod mikroskopem AI

Kshetri powiedział, że wykorzystanie sztucznej inteligencji do monitorowania uczniów może mieć nieproporcjonalny wpływ na mniejszości. Stwierdził, że ryzyko zawieszenia w prawach czarnoskórych uczniów jest ponad trzykrotnie większe niż w przypadku ich białych rówieśników.

„Po ocenie oznaczonych treści sprzedawcy zgłaszają wszelkie wątpliwości władzom szkoły, które w każdym przypadku podejmują działania dyscyplinarne” – dodał. „Brak nadzoru nad wykorzystaniem przez szkoły tych narzędzi może prowadzić do dalszych szkód dla uczniów z mniejszości”.

Kshetri stwierdziła, że ​​wiodące modele sztucznej inteligencji o 50 procent częściej oznaczają tweety napisane przez Afroamerykanów jako „obraźliwe” niż te napisane przez innych. Są 2,2 razy bardziej skłonni do oznaczania tweetów napisanych w slangu afroamerykańskim.

„Narzędzia te wpływają również bardziej niekorzystnie na mniejszości seksualne i płciowe” – dodał. Firma Gaggle „podobno oznaczyła określenia „gej”, „lesbijka” i inne określenia związane z LGBTQ, ponieważ są one kojarzone z pornografią, mimo że często używa się tych terminów do opisania własnej osoby tożsamość."

Kshetri powiedział, że dostawcy systemów nadzoru korzystają z niezabezpieczonych systemów, które mogą wykorzystać hakerzy. W marcu 2021 r. odkryła firmę McAfee zajmującą się oprogramowaniem zapewniającym bezpieczeństwo komputerowe kilka luk w systemie monitorowania uczniów oprogramowanie Vision Pro Education firmy Netop. Na przykład Netop nie szyfrował komunikacji między nauczycielami i uczniami, aby zablokować nieautoryzowany dostęp.

„Ponad 9 000 szkół na całym świecie korzystało z tego oprogramowania do monitorowania milionów uczniów” – Kshetri dodano.” Luka umożliwiła hakerom przejęcie kontroli nad kamerami internetowymi i mikrofonami w szkołach uczniów. komputery.”

Wiele firm oferuje szkołom sposoby monitorowania uczniów przez Internet. Piche zauważył, że platformy mediów społecznościowych mają własne oprogramowanie monitorujące, które na przykład wykrywa i blokuje boty i spam. Uczelnie, firmy i rządy korzystają z oprogramowania do monitorowania mediów społecznościowych (w skrócie SMMS) od dostawców, w tym Hootsuite, Sprout Social i Zoho Social.

„Podobnie jak rynek, media społecznościowe są forum publicznym, a nie prywatnym” – dodał. „Za każdym razem, gdy korzystamy z mediów społecznościowych, pozostawiamy cyfrowe ślady, które są udostępniane i sprzedawane przez media społecznościowe platform stronom trzecim, na przykład przez Twittera Elona Muska i Facebooka Cambridge Analytica.”