Por qué la IA está observando a los trabajadores

Los empleadores son cada vez más recurriendo al software para monitorear a los empleados de forma remota, lo que genera inquietudes entre algunos defensores de la privacidad.

Un nuevo informe afirma Las cámaras impulsadas por IA en las camionetas de reparto de Amazon han penalizado injustamente a los conductores. El artículo encontró que los conductores sufrieron alertas erróneas, tarjetas de puntuación de conductores incorrectas, suposiciones de condiciones de tráfico poco prácticas y conductores que adoptaron prácticas para eludir la tecnología.

"Si bien la IA está mejorando, se seguirán cometiendo errores", Raymond Ku, director del Centro de Derecho y Políticas del Ciberespacio de la Universidad Case Western Reserve, dijo a Lifewire en una entrevista por correo electrónico. "Como cuestión de justicia, creo que todos creemos que alguien que sea penalizado de alguna manera por la toma de decisiones de la IA debe ser consciente del hecho y tener la oportunidad de impugnar la decisión".

Cámaras AI de Amazon

Amazonas ha dicho instaló cámaras alimentadas por IA en sus vehículos de reparto como medida de seguridad. Las cámaras están diseñadas para monitorear cuando los conductores de reparto realizan maniobras peligrosas, como pasar señales de alto o hacer giros en U ilegales.

Cuando las cámaras detectan posibles "eventos" de conducción insegura, estos casos influyen en los puntajes de desempeño de los trabajadores. Los puntajes más bajos reducen la posibilidad de que los conductores obtengan bonificaciones, pagos adicionales y premios.

Pero los conductores de Amazon dijeron tarjeta madre que están siendo castigados por algunos hábitos de conducción que se consideran seguros o que escapan a su control. Amazon no respondió a una solicitud de Lifewire para hacer comentarios.

Ku señaló que, dado que los conductores aceptaron ser registrados, no están sufriendo una invasión de la privacidad según la ley.

"Sin embargo, eso no significa que el trabajador promedio estaría contento con la vigilancia o no se opondría si pudiera", agregó. "Esto es especialmente cierto cuando la vigilancia comienza a invadir los espacios personales más tradicionales".

El informe plantea preguntas más amplias sobre si los datos pueden ser accedidos y utilizados en juicios o por la policía y los funcionarios federales. la abogada de privacidad de datos Bethany A. Corbin dijo a Lifewire en una entrevista por correo electrónico. También podría afectar la responsabilidad, señaló.

"Por ejemplo, si la tecnología de inteligencia artificial le dice al empleado que no mire por los espejos laterales y el empleado tiene un accidente como resultado directo de ese consejo, ¿quién tiene la culpa?" Corbin agregó.

Vigilancia creciente

La vigilancia no se detiene con Amazon. Un cada vez más empresas utilizan la tecnología para vigilar a sus empleados de forma remota, experto en privacidad Chris Hauk dijo a Lifewire en una entrevista por correo electrónico.

Por ejemplo, empresa de marketing de IA Blackbelt utiliza un sistema de seguimiento de tiempo asignado, lo que permite a la empresa monitorear y rastrear la actividad informática de sus empleados de forma autónoma. Workplace Analytics de Microsoft permitirá a los empleadores observe la cantidad de tiempo de un empleado en sitios web, escribiendo correos electrónicos y más durante la jornada laboral.

Walmart también está trabajando en un sistema que escucha el sonido del susurro de las bolsas o los pitidos de los escáneres de caja para rastrear las métricas de los empleados y garantizar que los empleados realicen sus tareas de manera correcta y eficiente. Los sensores pueden incluso escuchar a los clientes mientras conversan mientras están en línea y detectar si los empleados están saludando a los clientes correctamente o no.

La vigilancia en el lugar de trabajo es cada vez más frecuente desde el inicio de la pandemia, experto en privacidad Pankaj Srivastava dijo a Lifewire en una entrevista por correo electrónico.

"La mayor parte de esta tecnología se posiciona como 'mejorando la productividad', sin embargo, la forma en que algunas de estas herramientas operar sugiere una mayor tolerancia de los empleadores para monitorear cada actividad de su fuerza laboral ", dijo adicional. "Por ejemplo, monitorear cuánto tiempo dedican los empleados a cada tarea, tomar una foto remota para garantizar que los empleados en su escritorio, e incluso monitoreando los sitios web visitados y registrando las pulsaciones del teclado y el mouse de un empleado movimiento."

Algunos software de inteligencia artificial permiten a los empleadores monitorear continuamente el comportamiento de los empleados en segundo plano y dibujar patrones en su flujo de trabajo, dijo.

"Se puede despedir a un empleado en función de su informe de desempeño personalizado citando que se tomó unos minutos más para completar una tarea de lo habitual", dijo Srivastava.

"Adiós, ir al baño."