AI가 작업자를 감시하는 이유

고용주는 점점 소프트웨어로 전환 직원을 원격으로 모니터링하여 일부 개인 정보 보호 옹호자들 사이에서 우려를 불러일으키고 있습니다.

새로운 보고서 주장 아마존 배달 밴의 AI 카메라는 운전자에게 부당한 처벌을 가했습니다. 기사는 운전자들이 잘못된 경고, 잘못된 운전자 스코어카드, 비현실적인 교통 상황 가정, 기술을 우회하기 위한 관행을 채택하는 운전자로 고통받고 있음을 발견했습니다.

"AI가 개선되는 동안 실수는 여전히 발생합니다." 레이몬드 쿠Case Western Reserve University의 사이버 공간 법률 및 정책 센터 소장은 이메일 인터뷰에서 라이프와이어에 말했습니다. "공정성의 문제로, 우리 모두는 AI 의사 결정에 의해 어떤 식으로든 처벌을 받는 사람이 사실을 인지하고 결정에 이의를 제기할 기회를 주어야 한다고 생각합니다."

아마존의 AI 카메라

아마존 말했다 안전 조치로 배달 차량에 AI 기반 카메라를 설치했습니다. 카메라는 배달 기사가 정지 신호를 실행하거나 불법 유턴과 같은 위험한 기동을 수행할 때 모니터링하기 위한 것입니다.

카메라가 안전하지 않은 운전 "이벤트"를 감지하면 이러한 사례가 작업자의 성과 점수에 반영됩니다. 점수가 낮을수록 드라이버가 보너스, 추가 급여 및 상품을 받을 기회가 줄어듭니다.

하지만 아마존 운전자들은 마더보드 그들은 안전하거나 통제할 수 없는 것으로 간주되는 일부 운전 습관에 대해 처벌을 받고 있습니다. Amazon은 Lifewire의 논평 요청에 응답하지 않았습니다.

구씨는 운전자들이 녹음에 동의했기 때문에 법에 따른 사생활 침해로 고통받는 것은 아니라고 지적했다.

"그러나 이것이 일반 근로자가 감시에 만족하거나 가능하다면 반대하지 않을 것이라는 의미는 아닙니다."라고 그는 덧붙였습니다. "감시가 보다 전통적인 개인 공간을 침범하기 시작할 때 특히 그렇습니다."

이 보고서는 데이터가 소송에서 또는 경찰과 연방 공무원에 의해 액세스되고 사용될 수 있는지에 대한 광범위한 질문을 제기합니다. 데이터 개인 정보 보호 변호사 Bethany A. 코빈 이메일 인터뷰에서 Lifewire에 말했습니다. 책임에도 영향을 미칠 수 있다고 그녀는 지적했다.

"예를 들어, AI 기술이 직원에게 사이드 미러를 보지 말라고 지시하고 직원이 그 조언의 직접적인 결과로 사고를 당했다면 누구의 잘못입니까?" 코빈이 덧붙였다.

증가하는 감시

감시는 아마존에서 멈추지 않습니다. NS 기술을 사용하는 기업이 증가하고 있습니다. 직원을 원격으로 감시하기 위해 개인 정보 보호 전문가 Chris Hauk 이메일 인터뷰에서 Lifewire에 말했습니다.

예를 들어 AI 마케팅 회사 Blackbelt는 할당 시간 추적 시스템을 사용합니다., 회사에서 직원의 컴퓨터 활동을 자율적으로 모니터링하고 추적할 수 있습니다. Microsoft의 Workplace Analytics를 통해 고용주는 근무 시간 동안 웹 사이트에서 직원의 시간을 관찰하고 이메일을 작성하는 등의 작업을 수행합니다.

월마트도 시스템 개발 중 가방이 바스락거리는 소리나 계산대 스캐너에서 신호음이 들리면 직원 메트릭을 추적하고 직원이 작업을 정확하고 효율적으로 수행할 수 있습니다. 센서는 줄을 서서 채팅하는 고객의 말을 듣고 직원이 고객에게 제대로 인사를 하고 있는지 여부를 감지할 수도 있습니다.

팬데믹이 시작된 이후 직장 감시가 더욱 보편화되고 있으며, 개인 정보 보호 전문가 Pankaj Srivastava 이메일 인터뷰에서 Lifewire에 말했습니다.

"이 기술의 대부분은 '생산성 향상'으로 자리 잡고 있지만 이러한 도구 중 일부는 운영하는 것은 고용주가 직원의 모든 활동을 모니터링하는 데 더 큰 관용을 제공한다는 것을 의미합니다." 추가했습니다. "예를 들어 직원들이 각 작업에 보내는 시간을 모니터링하고 원격 사진을 찍어 직원들이 자신의 책상에서, 방문한 웹사이트를 모니터링하고 직원의 키보드 스트로크와 마우스를 기록하는 것까지 움직임."

일부 AI 소프트웨어를 사용하면 고용주가 백그라운드에서 직원 행동을 지속적으로 모니터링하고 워크플로에서 패턴을 그릴 수 있다고 그는 말했습니다.

Srivastava는 "직원이 작업을 완료하는 데 평소보다 몇 분이 더 걸렸다는 이유로 개인화된 성과 보고서를 기반으로 해고될 수 있습니다."라고 말했습니다.

"안녕, 화장실 쉬는 시간."