Por que a IA está observando os trabalhadores

Os empregadores estão cada vez mais voltando-se para software para monitorar funcionários remotamente, levantando preocupações entre alguns defensores da privacidade.

Um novo relatório afirma Câmeras alimentadas por IA em vans de entrega da Amazon penalizam motoristas injustamente. O artigo descobriu que os motoristas sofreram com alertas errados, scorecards de motoristas incorretos, suposições impraticáveis ​​de condições de tráfego e motoristas que adotaram práticas para contornar a tecnologia.

"Enquanto a IA está melhorando, erros ainda serão cometidos,"

Raymond Ku, diretor do Centro de Legislação e Política do Ciberespaço da Case Western Reserve University, disse à Lifewire em uma entrevista por e-mail. "Por uma questão de justiça, acho que todos nós acreditamos que alguém que está sendo penalizado de alguma forma pela tomada de decisão de IA deve ser informado do fato e ter a oportunidade de contestar a decisão."

Câmeras AI da Amazon

Amazonas disse como medida de segurança, instalou câmeras movidas a IA em seus veículos de entrega. As câmeras têm o objetivo de monitorar quando os motoristas de entrega realizam manobras perigosas, como sinais de parada ou inversões de marcha ilegais.

Quando as câmeras detectam possíveis "eventos" de direção inseguros, essas instâncias são levadas em consideração nas pontuações de desempenho dos funcionários. Pontuações mais baixas reduzem a chance de os motoristas receberem bônus, pagamento extra e prêmios.

Mas os motoristas da Amazon disseram Placa-mãe que estão sendo punidos por alguns hábitos de direção considerados seguros ou fora de seu controle. A Amazon não respondeu a uma solicitação de comentário da Lifewire.

Ku destacou que, uma vez que os motoristas concordaram em ser registrados, eles não estão sofrendo uma invasão de privacidade segundo a lei.

"No entanto, isso não significa que o trabalhador médio ficaria feliz com a vigilância ou não faria objeções se pudesse", acrescentou. "Isso é especialmente verdadeiro quando a vigilância começa a invadir os espaços pessoais mais tradicionais."

O relatório levanta questões mais amplas sobre se os dados podem ser acessados ​​e usados ​​em processos judiciais ou por policiais e funcionários federais, a advogada de privacidade de dados Bethany A. Corbin disse à Lifewire em uma entrevista por e-mail. Também pode impactar a responsabilidade, ela apontou.

"Por exemplo, se a tecnologia de IA diz ao funcionário para não olhar nos espelhos laterais e o funcionário sofre um acidente como resultado direto desse conselho, quem é o culpado?" Corbin acrescentou.

Vigilância Crescente

A vigilância não para com a Amazon. Um número crescente de empresas está usando tecnologia para assistir seus funcionários remotamente, especialista em privacidade Chris Hauk disse à Lifewire em uma entrevista por e-mail.

Por exemplo, empresa de marketing de IA Blackbelt usa um sistema de rastreamento de tempo alocado, permitindo à empresa monitorar e rastrear a atividade informática de seus funcionários de forma autônoma. O Workplace Analytics da Microsoft permitirá que os empregadores observe a duração do tempo de um funcionário em sites, escrevendo e-mails e muito mais durante um dia de trabalho.

O Walmart também está trabalhando em um sistema que ouve o barulho de sacolas ou bipes de scanners de caixa para rastrear as métricas dos funcionários e garantir que eles executem suas tarefas de maneira correta e eficiente. Os sensores podem até ouvir os clientes enquanto eles conversam enquanto estão na fila e detectar se os funcionários estão cumprimentando os clientes de maneira adequada ou não.

A vigilância no local de trabalho está se tornando mais prevalente desde o início da pandemia, especialista em privacidade Pankaj Srivastava disse à Lifewire em uma entrevista por e-mail.

"A maior parte dessa tecnologia é posicionada como 'melhorando a produtividade', no entanto, a forma como algumas dessas ferramentas operar sugere uma maior tolerância dos empregadores para monitorar todas as atividades de sua força de trabalho ", ele adicionado. "Por exemplo, monitorar quanto tempo os funcionários gastam em cada tarefa, tirando uma foto remota garantindo que os funcionários estejam em sua mesa, e até mesmo monitorar sites visitados e registrar os toques de teclado e mouse de um funcionário movimento."

Alguns softwares de IA permitem que os empregadores monitorem continuamente o comportamento dos funcionários em segundo plano e desenhem padrões em seu fluxo de trabalho, disse ele.

"Um funcionário pode ser demitido com base em seu relatório de desempenho personalizado, citando que ele demorou alguns minutos a mais para concluir uma tarefa do que o normal", disse Srivastava.

"Adeus, intervalos para ir ao banheiro."