स्कूल छात्रों पर नज़र रखने के लिए एआई का उपयोग कर सकते हैं—यहां जानें क्यों

स्कूल अपने छात्रों पर नज़र रखने के लिए निगरानी कैमरों से आगे बढ़ रहे हैं।

डलास मॉर्निंग न्यूज़ की एक नई रिपोर्ट पता चला है छात्रों पर नज़र रखने के लिए कृत्रिम बुद्धिमत्ता (एआई) का उपयोग देश भर के स्कूलों में व्यापक है। कई परिसरों का कहना है कि खुद को या दूसरों को नुकसान पहुंचाने के जोखिम में छात्रों के जीवन की सुरक्षा और बचाव के लिए कंप्यूटर निगरानी आवश्यक है। लेकिन कुछ पर्यवेक्षक इसका रोना रो रहे हैं।

"जब छात्रों को पता चलता है कि उन पर एआई से निगरानी रखी जा रही है, तो उनके सच्चे विचार ऑनलाइन साझा करने की संभावना कम हो जाती है और वे जो खोजते हैं उसके बारे में अधिक सावधान रहते हैं," नीर क्षेत्री, में एक प्रोफेसर ग्रीन्सबोरो में उत्तरी कैरोलिना विश्वविद्यालय

डिजिटल समुदायों का अध्ययन करने वाले ने लाइफवायर को ईमेल के माध्यम से बताया। “यह मानसिक स्वास्थ्य समस्याओं वाले छात्रों जैसे कमजोर समूहों को आवश्यक सेवाएं प्राप्त करने से हतोत्साहित कर सकता है। जब छात्रों को पता चलता है कि उनकी हर हरकत और पढ़ी-लिखी हर चीज पर नजर रखी जाती है, तो उनके उच्च स्तर के आत्मविश्वास वाले वयस्कों के रूप में विकसित होने की संभावना कम होती है।

छात्रों को देखना

समाचार रिपोर्ट में दावा किया गया है कि कंपनी सोशल सेंटिनल ने स्कूलों को छात्रों के सोशल मीडिया पोस्ट को स्कैन करने के लिए तकनीक की पेशकश की। 2015 से कम से कम 37 कॉलेजों ने सोशल सेंटिनल का उपयोग किया है। सोशल सेंटिनल ने दावा किया है कि उसकी सेवा का उपयोग विरोध प्रदर्शनों की निगरानी के लिए नहीं किया जा सकता है, लेकिन रिपोर्ट में पाया गया कि इसका उपयोग उस उद्देश्य के लिए किया गया था।

"किसी घटना के दौरान, खतरे की चेतावनी उन नेताओं या आंदोलनकारियों के बारे में महत्वपूर्ण जानकारी प्रदान कर सकती है जो कानून के साथ टकराव चाहते हैं प्रवर्तन, भीड़ का सामान्य माहौल और भीड़ बढ़ने की संभावना,'' सोशल सेंटिनल ने एक ईमेल में लिखा प्रतिवेदन। नेविगेट360, वह कंपनी जिसने 2020 में सोशल सेंटिनल का अधिग्रहण किया, जांच को बुलाया ग़लत और पुराना.

कुछ उद्योग के अंदरूनी सूत्रों का कहना है कि निगरानी के लिए एआई का बढ़ता उपयोग अपरिहार्य है। "सोशल मीडिया का विरोधाभास यह है कि जैसे-जैसे हमारे डिजिटल पदचिह्न बढ़ते हैं, वैसे-वैसे सोशल मीडिया का उपयोग भी बढ़ता है।" क्रिस पिचेस्मार्टर एआई के संस्थापक, एक कंपनी जो सीसीटीवी को सॉफ्टवेयर-परिभाषित एआई कैमरों से जोड़ती है, ने लाइफवायर को एक ईमेल साक्षात्कार में बताया। "यही वह जगह है जहां सरकारी नियम महत्वपूर्ण भूमिका निभाते हैं। उदाहरण के लिए, यूरोपीय और अमेरिकी सरकारों ने जीडीपीआर, सीसीपीए और अन्य अमेरिकी राज्य नियमों के तहत भूल जाने का अधिकार पेश किया है।"

एआई माइक्रोस्कोप के तहत अल्पसंख्यक

क्षेत्री ने कहा कि छात्रों पर नजर रखने के लिए एआई के इस्तेमाल से अल्पसंख्यकों पर प्रतिकूल प्रभाव पड़ सकता है। उन्होंने कहा कि अश्वेत छात्रों के निलंबित होने की संभावना उनके श्वेत साथियों की तुलना में तीन गुना अधिक है।

उन्होंने कहा, "ध्वजांकित सामग्री का मूल्यांकन करने के बाद, विक्रेता किसी भी चिंता के बारे में स्कूल अधिकारियों को रिपोर्ट करते हैं, जो मामले-दर-मामले आधार पर अनुशासनात्मक कार्रवाई करते हैं।" "स्कूलों में इन उपकरणों के उपयोग पर निगरानी की कमी से अल्पसंख्यक छात्रों को और अधिक नुकसान हो सकता है।"

क्षेत्री ने कहा कि अग्रणी एआई मॉडल अफ्रीकी अमेरिकियों द्वारा लिखे गए ट्वीट्स को दूसरों द्वारा लिखे गए ट्वीट्स की तुलना में "आक्रामक" के रूप में फ़्लैग करने की 50 प्रतिशत अधिक संभावना रखते हैं। अफ्रीकी अमेरिकी स्लैंग में लिखे गए ट्वीट्स को फ़्लैग करने की उनकी संभावना 2.2 गुना अधिक है।

उन्होंने कहा, "ये उपकरण यौन और लैंगिक अल्पसंख्यकों पर भी अधिक प्रतिकूल प्रभाव डालते हैं।" कंपनी गैगल ने "कथित तौर पर 'गे,' 'लेस्बियन' और अन्य एलजीबीटीक्यू-संबंधित शब्दों को चिह्नित किया है क्योंकि वे अश्लील साहित्य से जुड़े हैं, भले ही इन शब्दों का इस्तेमाल अक्सर किसी का वर्णन करने के लिए किया जाता है पहचान।"

क्षेत्री ने कहा, निगरानी प्रणाली विक्रेता असुरक्षित प्रणालियों का उपयोग करते हैं जिनका हैकर्स फायदा उठा सकते हैं। मार्च 2021 में, कंप्यूटर सुरक्षा सॉफ्टवेयर कंपनी McAfee की स्थापना हुई छात्र निगरानी प्रणाली में कई कमजोरियाँ विक्रेता नेटॉप का विज़न प्रो एजुकेशन सॉफ़्टवेयर। उदाहरण के लिए, नेटॉप ने अनधिकृत पहुंच को रोकने के लिए शिक्षकों और छात्रों के बीच संचार को एन्क्रिप्ट नहीं किया।

क्षेत्री ने कहा, "सॉफ्टवेयर का इस्तेमाल दुनिया भर में 9,000 से अधिक स्कूलों द्वारा लाखों छात्रों की निगरानी के लिए किया गया था।" जोड़ा गया।" भेद्यता ने हैकर्स को छात्रों के वेबकैम और माइक्रोफ़ोन पर नियंत्रण हासिल करने की अनुमति दी कंप्यूटर।"

कई कंपनियाँ स्कूलों को इंटरनेट के माध्यम से छात्रों पर नज़र रखने के तरीके प्रदान करती हैं। पिचे ने कहा कि सोशल मीडिया प्लेटफॉर्म के पास मालिकाना निगरानी सॉफ्टवेयर है, उदाहरण के लिए, बॉट्स और स्पैम का पता लगाने और उन्हें ब्लॉक करने के लिए। कॉलेज, कंपनियां और सरकारें हूटसुइट, स्प्राउट सोशल और ज़ोहो सोशल सहित विक्रेताओं से सोशल मीडिया मॉनिटरिंग सॉफ़्टवेयर (या संक्षेप में एसएमएमएस) का उपयोग करती हैं।

उन्होंने कहा, "शहर के चौराहे की तरह, सोशल मीडिया एक सार्वजनिक मंच है, निजी नहीं।" "जब भी हम सोशल मीडिया का उपयोग करते हैं, हम डिजिटल फ़ुटप्रिंट छोड़ते हैं जो सोशल मीडिया द्वारा साझा और बेचे जाते हैं तीसरे पक्ष को प्लेटफ़ॉर्म, उदाहरण के लिए ट्विटर द्वारा एलोन मस्क को और फ़ेसबुक द्वारा कैम्ब्रिज एनालिटिका को।"