Las escuelas pueden estar usando inteligencia artificial para controlar a los estudiantes: este es el motivo
- Un nuevo informe encuentra que muchas universidades utilizan inteligencia artificial para monitorear a los estudiantes y sus cuentas de redes sociales.
- Las escuelas dicen que los estudiantes deben ser monitoreados mediante inteligencia artificial por seguridad.
- Pero algunos observadores sostienen que la vigilancia afecta las libertades civiles y afecta desproporcionadamente a las minorías.
Tom Werner/Getty Images
Las escuelas van cada vez más allá de las cámaras de vigilancia para vigilar a sus estudiantes.
Un nuevo informe del Dallas Morning News ha revelado que el uso de inteligencia artificial (IA) para monitorear a los estudiantes está generalizado en las escuelas de todo el país. Muchos campus dicen que el monitoreo por computadora es necesario para proteger y salvar las vidas de los estudiantes en riesgo de hacerse daño a sí mismos o a otros. Pero algunos observadores se quejan.
"Cuando los estudiantes saben que están siendo monitoreados con IA, es menos probable que compartan pensamientos verdaderos en línea y sean más cuidadosos con lo que buscan".
Observando a los estudiantes
El informe de noticias afirma que la empresa Social Sentinel ofreció a las escuelas tecnología para escanear publicaciones de los estudiantes en las redes sociales. Al menos 37 universidades han utilizado Social Sentinel desde 2015. Social Sentinel ha afirmado que su servicio no se puede utilizar para monitorear protestas, pero el informe encontró que se usó para ese propósito.
"Durante un evento, las alertas de amenazas pueden proporcionar información importante sobre los líderes o agitadores que pueden querer una confrontación con la ley. aplicación de la ley, el clima general de la multitud y el potencial de crecimiento de la multitud", escribió Social Sentinel en un correo electrónico según el informe. Navigate360, la empresa que adquirió Social Sentinel en 2020, llamó a la investigación inexacta y desactualizada.
Estas herramientas también afectan más negativamente a las minorías sexuales y de género.
Algunos expertos de la industria dicen que el uso cada vez mayor de la IA para la vigilancia es inevitable. "La paradoja de las redes sociales es que a medida que nuestra huella digital crece, también crece nuestro uso de las redes sociales". Chris Piche, dijo a Lifewire en una entrevista por correo electrónico el fundador de Smarter AI, una empresa que conecta CCTV con cámaras de IA definidas por software. "Aquí es donde las regulaciones gubernamentales juegan un papel clave. Por ejemplo, los gobiernos europeo y estadounidense han introducido el derecho al olvido en virtud del RGPD, la CCPA y otras regulaciones estatales de EE. UU.".
Minorías bajo el microscopio de la IA
Kshetri dijo que el uso de IA para monitorear a los estudiantes podría tener un impacto desproporcionado en las minorías. Las posibilidades de que los estudiantes negros sean suspendidos son más de tres veces mayores que las de sus compañeros blancos, dijo.
"Después de evaluar el contenido marcado, los proveedores informan cualquier inquietud a los funcionarios escolares, quienes toman medidas disciplinarias caso por caso", agregó. "La falta de supervisión en el uso de estas herramientas por parte de las escuelas podría provocar más daños a los estudiantes de minorías".
Los principales modelos de IA tienen un 50 por ciento más de probabilidades de marcar los tweets escritos por afroamericanos como "ofensivos" que los escritos por otros, dijo Kshetri. Tienen 2,2 veces más probabilidades de marcar tweets escritos en jerga afroamericana.
"Estas herramientas también afectan más negativamente a las minorías sexuales y de género", añadió. La empresa Gaggle "al parecer ha marcado términos 'gay', 'lesbiana' y otros términos relacionados con LGBTQ porque están asociados con la pornografía, aunque los términos se usan a menudo para describir la propia identidad."
Los proveedores de sistemas de vigilancia utilizan sistemas inseguros que los piratas informáticos pueden explotar, afirmó Kshetri. En marzo de 2021, la empresa de software de seguridad informática McAfee descubrió Varias vulnerabilidades en el sistema de seguimiento de estudiantes. el software Vision Pro Education del proveedor Netop. Por ejemplo, Netop no cifró las comunicaciones entre profesores y estudiantes para bloquear el acceso no autorizado.
"El software fue utilizado por más de 9.000 escuelas en todo el mundo para monitorear a millones de estudiantes", Kshetri "La vulnerabilidad permitió a los piratas informáticos obtener control sobre las cámaras web y los micrófonos en las habitaciones de los estudiantes. ordenadores."
Muchas empresas ofrecen a las escuelas formas de monitorear a los estudiantes a través de Internet. Las plataformas de redes sociales tienen software de monitoreo patentado, por ejemplo, para detectar y bloquear bots y spam, señaló Piche. Las universidades, las empresas y los gobiernos utilizan software de monitoreo de redes sociales (o SMMS para abreviar) de proveedores, incluidos Hootsuite, Sprout Social y Zoho Social.
"Al igual que una plaza, las redes sociales son un foro público, no privado", añadió. "Cada vez que utilizamos las redes sociales, dejamos huellas digitales que se comparten y venden a través de las redes sociales. plataformas a terceros, por ejemplo Twitter a Elon Musk y Facebook a Cambridge Analytica".