Hvorfor AI ser på arbeidere

Arbeidsgivere blir stadig flere henvender seg til programvare å overvåke ansatte eksternt, noe som vekker bekymring blant noen personvernforkjempere.

En ny rapport hevder AI-drevne kameraer i Amazons varebiler har urettferdig straffet sjåfører. Artikkelen fant at sjåfører led av feilvarsler, feil sjåførkort, upraktiske antakelser om trafikkforhold og sjåfører som tok i bruk praksis for å omgå teknologien.

"Mens AI forbedres, vil det fortsatt gjøres feil," Raymond Ku, direktør for Center for Cyberspace Law & Policy ved Case Western Reserve University, fortalte Lifewire i et e-postintervju. "Som en sak om rettferdighet, tror jeg vi alle mener at noen som blir straffet på noen måte av AI-beslutninger bør gjøres oppmerksomme på faktum og gis en mulighet til å utfordre avgjørelsen."

Amazons AI-kameraer

Amazon har sagt det installerte AI-drevne kameraer i sine leveringsbiler som et sikkerhetstiltak. Kameraene er ment å overvåke når leveringssjåfører utfører farlige manøvrer som å kjøre stoppskilt eller gjøre ulovlige U-svinger.

Når kameraene oppdager mulige utrygge kjøre-"hendelser", tar disse forekomstene inn i arbeidernes prestasjonsscore. Lavere poengsum reduserer sjansen for at sjåfører får bonuser, ekstra lønn og premier.

Men Amazon-sjåfører fortalte Hovedkort at de blir straffet for noen kjørevaner som anses som trygge eller utenfor deres kontroll. Amazon svarte ikke på en forespørsel fra Lifewire om kommentar.

Ku påpekte at siden sjåførene gikk med på å bli registrert, lider de ikke av en krenkelse av personvernet under loven.

"Det betyr imidlertid ikke at den gjennomsnittlige arbeideren ville være fornøyd med overvåkingen eller ikke ville protestere hvis de kunne," la han til. "Dette gjelder spesielt når overvåkingen begynner å gripe inn i mer tradisjonelle personlige rom."

Rapporten reiser bredere spørsmål om dataene kan nås og brukes i rettssaker eller av politi og føderale tjenestemenn, personvernadvokat Bethany A. Corbin fortalte Lifewire i et e-postintervju. Det kan også påvirke ansvar, påpekte hun.

"For eksempel, hvis AI-teknologien forteller den ansatte at han ikke skal se seg i sidespeilene og den ansatte har en ulykke som et direkte resultat av det rådet, hvem er skylden?" la Corbin til.

Økende overvåking

Overvåkingen stopper ikke hos Amazon. An økende antall bedrifter bruker teknologi å se sine ansatte eksternt, personvernekspert Chris Hauk fortalte Lifewire i et e-postintervju.

For eksempel et AI-markedsføringsfirma Blackbelt bruker et Allocate time tracking system, slik at selskapet kan overvåke og spore sine ansattes datamaskinaktivitet autonomt. Microsofts Workplace Analytics vil gjøre det mulig for arbeidsgivere se en ansatts tid på nettsteder, skrive e-poster og mer i løpet av en arbeidsdag.

Walmart jobber også med et system som lytter etter lyden av raslingen fra poser eller pip fra kasseskannere for å spore ansattes beregninger og sikre at ansatte utfører oppgavene sine riktig og effektivt. Sensorene kan til og med lytte til kunder mens de chatter mens de står i kø og oppdager om ansatte hilser kundene riktig eller ikke.

Arbeidsplassovervåking blir mer utbredt siden utbruddet av pandemien, personvernekspert Pankaj Srivastava fortalte Lifewire i et e-postintervju.

"Det meste av denne teknologien er posisjonert som 'forbedring av produktivitet', på samme måte som noen av disse verktøyene operere antyder en større toleranse for arbeidsgivere til å overvåke hver aktivitet i arbeidsstyrken deres,» han la til. "For eksempel å overvåke hvor mye tid ansatte bruker på hver oppgave, ta et eksternt bilde for å sikre at ansatte er det ved skrivebordet deres, og til og med overvåker nettsteder som er besøkt og registrerer en ansatts tastaturtrykk og mus bevegelse."

Noe AI-programvare lar arbeidsgivere kontinuerlig overvåke ansattes atferd i bakgrunnen og tegne mønstre i arbeidsflyten deres, sa han.

"En ansatt kan bli sparket basert på deres personlige resultatrapport som siterer at de tok noen minutter lenger tid å fullføre en oppgave enn vanlig," sa Srivastava.

"Farvel, badet pauser."