Școlile ar putea folosi inteligența artificială pentru a urmări elevii – Iată de ce

Școlile merg din ce în ce mai mult dincolo de camerele de supraveghere pentru a-și supraveghea elevii.

Un nou raport al Dallas Morning News a dezvăluit că utilizarea inteligenței artificiale (AI) pentru monitorizarea elevilor este larg răspândită în școlile din întreaga țară. Multe campusuri spun că monitorizarea computerului este necesară pentru a proteja și salva viețile studenților care riscă să se rănească pe ei înșiși sau pe alții. Dar unii observatori plâng rău.

„Când studenții știu că sunt monitorizați cu inteligență artificială, este mai puțin probabil să împărtășească gânduri adevărate online și sunt mai atenți la ceea ce caută.”

Nir Kshetri, profesor la Universitatea din Carolina de Nord din Greensboro, care studiază comunitățile digitale, a declarat pentru Lifewire prin e-mail. „Acest lucru poate descuraja grupurile vulnerabile, cum ar fi studenții cu probleme de sănătate mintală, să obțină serviciile necesare. Când elevii știu că fiecare mișcare a lor și tot ceea ce se citește și scris este urmărit, este, de asemenea, mai puțin probabil să devină adulți cu un nivel ridicat de încredere în sine.”

Urmărirea Studenților

Raportul de știri susține că compania Social Sentinel a oferit școlilor tehnologie pentru a scana postările de pe rețelele sociale de la studenți. Cel puțin 37 de colegii au folosit Social Sentinel din 2015. Social Sentinel a susținut că serviciul său nu poate fi folosit pentru monitorizarea protestelor, dar raportul a constatat că a fost folosit în acest scop.

„În timpul unui eveniment, alertele de amenințare pot oferi informații importante despre liderii sau agitatorii care ar putea dori o confruntare cu legea. aplicarea legii, climatul general al mulțimii și potențialul de creștere a mulțimii", a scris Social Sentinel într-un e-mail conform raport. Navigate360, compania care a achiziționat Social Sentinel în 2020, a sunat ancheta inexacte și depășite.

Unii oameni din industrie spun că utilizarea tot mai mare a AI pentru supraveghere este inevitabilă. „Paradoxul rețelelor sociale este că, pe măsură ce amprentele noastre digitale cresc, la fel crește și utilizarea rețelelor sociale.” Chris Piche, fondatorul Smarter AI, o companie care conectează CCTV cu camere AI definite de software, a declarat pentru Lifewire într-un interviu prin e-mail. „Acesta este locul în care reglementările guvernamentale joacă un rol cheie. De exemplu, guvernele europene și americane au introdus Dreptul de a fi uitat în conformitate cu GDPR, CCPA și alte reglementări de stat din SUA.”

Minorități sub un microscop AI

Kshetri a spus că utilizarea AI pentru a monitoriza studenții ar putea avea un impact disproporționat asupra minorităților. Şansele studenţilor de culoare de a fi suspendaţi sunt de trei ori mai mari decât ale colegilor lor albi, a spus el.

„După evaluarea conținutului semnalat, vânzătorii raportează orice îngrijorare oficialilor școlii, care iau măsuri disciplinare de la caz la caz”, a adăugat el. „Lipsa de supraveghere a utilizării acestor instrumente de către școli ar putea duce la daune suplimentare pentru elevii minoritari”.

Modelele de IA de vârf au cu 50% mai multe șanse să semnaleze tweet-urile scrise de afro-americani ca fiind „ofensive” decât cele scrise de alții, a spus Kshetri. Sunt de 2,2 ori mai multe șanse să semnalizeze tweet-urile scrise în argou afro-american.

„Aceste instrumente afectează, de asemenea, minoritățile sexuale și de gen mai negativ”, a adăugat el. Compania Gaggle „se pare că a semnalat „gay”, „lesbiană” și alți termeni legați de LGBTQ, deoarece sunt asociate cu pornografia, chiar dacă termenii sunt adesea folosiți pentru a-i descrie pe ai cuiva identitate."

Furnizorii de sisteme de supraveghere folosesc sisteme nesigure pe care hackerii le pot exploata, a spus Kshetri. În martie 2021, compania de software de securitate pentru computere McAfee a găsit mai multe vulnerabilități în sistemul de monitorizare a elevilor software-ul Vision Pro Education al furnizorului Netop. De exemplu, Netop nu a criptat comunicațiile dintre profesori și studenți pentru a bloca accesul neautorizat.

„Software-ul a fost folosit de peste 9.000 de școli din întreaga lume pentru a monitoriza milioane de elevi”, Kshetri Vulnerabilitatea le-a permis hackerilor să obțină controlul asupra camerelor web și microfoanelor din studenții. calculatoare”.

Multe companii oferă școlilor modalități de a monitoriza elevii prin internet. Platformele de social media au software de monitorizare proprietar, de exemplu, pentru a detecta și bloca roboții și spam-ul, a menționat Piche. Colegiile, companiile și guvernele folosesc software de monitorizare a rețelelor sociale (sau SMMS pe scurt) de la furnizori, inclusiv Hootsuite, Sprout Social și Zoho Social.

„La fel ca o piață, rețelele sociale sunt un forum public, nu unul privat”, a adăugat el. „De câte ori folosim rețelele sociale, lăsăm amprente digitale care sunt împărtășite și vândute de rețelele sociale platforme către terți, de exemplu prin Twitter către Elon Musk și Facebook către Cambridge Analytica.”