Proč AI sleduje pracovníky

Zaměstnavatelů je stále více obrátit se na software monitorovat zaměstnance na dálku, což vyvolává obavy mezi některými zastánci soukromí.

Tvrdí to nová zpráva Kamery s umělou inteligencí v dodávkách Amazonu nespravedlivě penalizují řidiče. Článek zjistil, že řidiči trpěli chybnými upozorněními, nesprávnými výsledkovými kartami řidičů, nepraktickými předpoklady o dopravní situaci a řidiči, kteří si osvojili praktiky k obcházení technologie.

"Zatímco se AI zlepšuje, stále se budou dělat chyby," Raymond Ku, ředitel Center for Cyberspace Law & Policy na Case Western Reserve University, řekl Lifewire v e-mailovém rozhovoru. "V rámci spravedlnosti si myslím, že všichni věříme, že někdo, kdo je jakýmkoli způsobem penalizován rozhodováním AI, by si měl být vědom této skutečnosti a měl by mít příležitost toto rozhodnutí napadnout."

AI kamery od Amazonu

Amazonka řekl jako bezpečnostní opatření nainstalovala do svých vozidel kamery napájené AI. Kamery jsou určeny ke sledování, když řidiči dodávky provádějí nebezpečné manévry, jako je jízda na znamení stop nebo nedovolené otáčení.

Když kamery zaznamenají možné nebezpečné „události“ při řízení, tyto případy zohledňují výkonnostní skóre pracovníků. Nižší skóre snižuje šanci, že řidiči získají bonusy, příplatky a ceny.

Ale řekli to řidiči Amazonu Základní deska že jsou trestáni za některé řidičské návyky, které jsou považovány za bezpečné nebo mimo jejich kontrolu. Amazon neodpověděl na žádost Lifewire o komentář.

Ku poukázal na to, že vzhledem k tomu, že řidiči souhlasili se záznamem, netrpí zásahem do soukromí podle zákona.

"To však neznamená, že by průměrný pracovník byl spokojený se sledováním nebo že by nic nenamítal, kdyby mohl," dodal. "To platí zejména tehdy, když sledování začne zasahovat do tradičnějších osobních prostorů."

Zpráva vyvolává širší otázky, zda mohou být data zpřístupněna a použita v soudních sporech nebo policejními a federálními úředníky, právní zástupce pro ochranu osobních údajů Bethany A. Corbin řekl Lifewire v e-mailovém rozhovoru. Mohlo by to také ovlivnit odpovědnost, upozornila.

"Například, pokud technologie umělé inteligence říká zaměstnanci, aby se nedíval do bočních zrcátek, a zaměstnanec má nehodu jako přímý důsledek této rady, kdo je na vině?" dodal Corbin.

Rostoucí dohled

Dohled nekončí u Amazonu. An stále více společností využívá technologie sledovat své zaměstnance na dálku, odborník na ochranu soukromí Chris Hauk řekl Lifewire v e-mailovém rozhovoru.

Například marketingová firma AI Blackbelt používá systém sledování času přidělování, což společnosti umožňuje autonomně sledovat a sledovat počítačovou aktivitu svých zaměstnanců. Microsoft Workplace Analytics to zaměstnavatelům umožní sledujte délku času zaměstnance na webových stránkách, psaní e-mailů a další během pracovního dne.

Walmart také pracuje na systému který poslouchá zvuk šustění tašek nebo pípání ze skenerů pokladny, sleduje metriky zaměstnanců a zajišťuje, že zaměstnanci vykonávají své úkoly správně a efektivně. Senzory mohou dokonce naslouchat zákazníkům, když si povídají ve frontě, a zjistit, zda zaměstnanci vítají zákazníky správně.

Dohled na pracovišti je od vypuknutí pandemie stále rozšířenější, expert na ochranu soukromí Pankaj Srivastava řekl Lifewire v e-mailovém rozhovoru.

„Většina této technologie je umístěna jako ‚zlepšení produktivity‘, nicméně tak, jak některé z těchto nástrojů Operace naznačuje větší toleranci zaměstnavatelů ke sledování každé činnosti své pracovní síly,“ řekl přidal. „Například sledování toho, kolik času zaměstnanci tráví na každém úkolu, pořizování vzdálené fotografie, která zajišťuje, že zaměstnanci jsou u svého stolu a dokonce i sledování navštívených webových stránek a zaznamenávání úhozů zaměstnance na klávesnici a myši hnutí."

Některý software umělé inteligence umožňuje zaměstnavatelům nepřetržitě monitorovat chování zaměstnanců na pozadí a kreslit vzorce v jejich pracovním postupu, řekl.

"Zaměstnanec může být propuštěn na základě své personalizované zprávy o výkonu, která uvádí, že dokončení úkolu trvalo o několik minut déle než obvykle," řekl Srivastava.

"Sbohem, pauza v koupelně."