โรงเรียนอาจใช้ AI เพื่อติดตามนักเรียน—นี่คือเหตุผล

โรงเรียนต่างๆ หันมาใช้มากกว่ากล้องวงจรปิดเพื่อคอยจับตาดูนักเรียนมากขึ้น

รายงานฉบับใหม่จาก Dallas Morning News ได้เปิดเผยแล้ว ว่าการใช้ปัญญาประดิษฐ์ (AI) เพื่อติดตามนักเรียนแพร่หลายในโรงเรียนทั่วประเทศ วิทยาเขตหลายแห่งกล่าวว่าการตรวจสอบคอมพิวเตอร์เป็นสิ่งจำเป็นเพื่อปกป้องและช่วยชีวิตนักเรียนที่เสี่ยงต่อการทำร้ายตนเองหรือผู้อื่น แต่ผู้สังเกตการณ์บางคนกำลังร้องไห้เหม็น

"เมื่อนักเรียนรู้ว่าพวกเขากำลังถูกติดตามด้วย AI พวกเขามักจะแบ่งปันความคิดที่แท้จริงทางออนไลน์น้อยลง และระมัดระวังมากขึ้นเกี่ยวกับสิ่งที่พวกเขาค้นหา" เนียร์ กเชตรี, ศาสตราจารย์ที่ มหาวิทยาลัยนอร์ธแคโรไลนาที่กรีนสโบโรซึ่งศึกษาชุมชนดิจิทัลบอกกับ Lifewire ทางอีเมล “สิ่งนี้สามารถกีดกันกลุ่มเปราะบาง เช่น นักเรียนที่มีปัญหาสุขภาพจิต จากการได้รับบริการที่จำเป็น เมื่อนักเรียนรู้ว่าทุกการเคลื่อนไหวและทุกสิ่งที่อ่านและเขียนได้รับการดู พวกเขาก็มีโอกาสน้อยที่จะพัฒนาเป็นผู้ใหญ่ที่มีความมั่นใจในตนเองในระดับสูง”

กำลังดูนักเรียน

รายงานข่าวอ้างว่าบริษัท Social Sentinel เสนอเทคโนโลยีของโรงเรียนเพื่อสแกนโพสต์โซเชียลมีเดียจากนักเรียน วิทยาลัยอย่างน้อย 37 แห่งใช้ Social Sentinel ตั้งแต่ปี 2558 Social Sentinel อ้างว่าบริการของตนไม่สามารถใช้ติดตามการประท้วงได้ แต่รายงานพบว่ามีการใช้งานเพื่อจุดประสงค์ดังกล่าว

“ในระหว่างเหตุการณ์ การแจ้งเตือนภัยคุกคามสามารถให้ข้อมูลเชิงลึกที่สำคัญเกี่ยวกับผู้นำหรือผู้ก่อกวนที่อาจต้องการเผชิญหน้ากับกฎหมาย การบังคับใช้ บรรยากาศโดยทั่วไปของฝูงชน และศักยภาพในการเติบโตของฝูงชน” Social Sentinel เขียนในอีเมลตาม รายงาน. Navigate360 บริษัทที่เข้าซื้อกิจการ Social Sentinel ในปี 2563 เรียกว่าการสอบสวน ไม่ถูกต้องและล้าสมัย

คนในวงการอุตสาหกรรมบางคนกล่าวว่าการใช้ AI เพื่อการเฝ้าระวังที่เพิ่มขึ้นเป็นสิ่งที่หลีกเลี่ยงไม่ได้ "ความขัดแย้งของโซเชียลมีเดียก็คือเมื่อรอยเท้าทางดิจิทัลของเราเติบโตขึ้น การใช้โซเชียลมีเดียของเราก็เช่นกัน" คริส พิชผู้ก่อตั้ง Smarter AI ซึ่งเป็นบริษัทที่เชื่อมต่อ CCTV กับกล้อง AI ที่กำหนดโดยซอฟต์แวร์ บอกกับ Lifewire ในการสัมภาษณ์ทางอีเมล “นี่คือจุดที่กฎระเบียบของรัฐบาลมีบทบาทสำคัญ ตัวอย่างเช่น รัฐบาลในยุโรปและอเมริกาได้แนะนำสิทธิที่จะถูกลืมภายใต้ GDPR, CCPA และข้อบังคับอื่นๆ ของรัฐของสหรัฐอเมริกา"

ชนกลุ่มน้อยภายใต้กล้องจุลทรรศน์ AI

Kshetri กล่าวว่าการใช้ AI เพื่อติดตามนักเรียนอาจส่งผลกระทบอย่างไม่สมส่วนกับชนกลุ่มน้อย เขากล่าว โอกาสที่นักเรียนผิวดำจะถูกพักการเรียนนั้นสูงกว่านักเรียนผิวขาวถึงสามเท่า

“หลังจากประเมินเนื้อหาที่ถูกตั้งค่าสถานะ ผู้ขายจะรายงานข้อกังวลใดๆ ต่อเจ้าหน้าที่ของโรงเรียน ซึ่งจะดำเนินการทางวินัยเป็นกรณีๆ ไป” เขากล่าวเสริม “การขาดการดูแลในการใช้เครื่องมือเหล่านี้ของโรงเรียนอาจนำไปสู่อันตรายเพิ่มเติมสำหรับนักเรียนชนกลุ่มน้อย”

โมเดล AI ชั้นนำมีแนวโน้มที่จะติดธงทวีตที่เขียนโดยชาวแอฟริกันอเมริกันว่า "น่ารังเกียจ" มากกว่าทวีตที่เขียนโดยคนอื่นๆ ถึง 50 เปอร์เซ็นต์ Kshetri กล่าว พวกเขามีแนวโน้มที่จะตั้งค่าสถานะทวีตที่เขียนด้วยคำสแลงแอฟริกันอเมริกันมากกว่า 2.2 เท่า

“เครื่องมือเหล่านี้ส่งผลเสียต่อชนกลุ่มน้อยทางเพศและทางเพศมากกว่า” เขากล่าวเสริม บริษัท Gaggle ได้ "รายงานการตั้งค่าสถานะคำว่า 'เกย์' 'เลสเบี้ยน' และคำอื่น ๆ ที่เกี่ยวข้องกับ LGBTQ เนื่องจาก พวกเขาเกี่ยวข้องกับสื่อลามก แม้ว่าคำนี้มักจะใช้เพื่ออธิบายสิ่งหนึ่งก็ตาม ตัวตน."

ผู้จำหน่ายระบบเฝ้าระวังใช้ระบบที่ไม่ปลอดภัยซึ่งแฮกเกอร์สามารถใช้ประโยชน์ได้ Kshetri กล่าว ในเดือนมีนาคม 2021 บริษัทซอฟต์แวร์รักษาความปลอดภัยคอมพิวเตอร์ McAfee ค้นพบ ช่องโหว่หลายประการในระบบการติดตามนักเรียน ซอฟต์แวร์ Vision Pro Education ของผู้จำหน่าย Netop ตัวอย่างเช่น Netop ไม่ได้เข้ารหัสการสื่อสารระหว่างครูและนักเรียนเพื่อป้องกันการเข้าถึงที่ไม่ได้รับอนุญาต

"ซอฟต์แวร์นี้ถูกใช้โดยโรงเรียนมากกว่า 9,000 แห่งทั่วโลกเพื่อติดตามนักเรียนหลายล้านคน" Kshetri เพิ่ม" ช่องโหว่ดังกล่าวทำให้แฮกเกอร์สามารถควบคุมเว็บแคมและไมโครโฟนในอุปกรณ์ของนักเรียนได้ คอมพิวเตอร์"

บริษัทหลายแห่งเสนอวิธีการให้โรงเรียนติดตามนักเรียนผ่านทางอินเทอร์เน็ต แพลตฟอร์มโซเชียลมีเดียมีซอฟต์แวร์ตรวจสอบที่เป็นกรรมสิทธิ์ เช่น เพื่อตรวจจับและบล็อกบอทและสแปม Piche กล่าว วิทยาลัย บริษัท และรัฐบาลใช้ซอฟต์แวร์ติดตามโซเชียลมีเดีย (หรือเรียกสั้นๆ ว่า SMMS) จากผู้จำหน่าย รวมถึง Hootsuite, Sprout Social และ Zoho Social

“เช่นเดียวกับจัตุรัสกลางเมือง โซเชียลมีเดียเป็นเวทีสาธารณะ ไม่ใช่ที่ส่วนตัว” เขากล่าวเสริม "เมื่อใดก็ตามที่เราใช้โซเชียลมีเดีย เราจะทิ้งรอยเท้าดิจิทัลที่โซเชียลมีเดียแชร์และขาย แพลตฟอร์มไปยังบุคคลที่สาม เช่น Twitter ไปยัง Elon Musk และ Facebook ไปยัง Cambridge Analytica"