Varför AI tittar på arbetare

Arbetsgivarna blir allt fler vänder sig till mjukvara att övervaka anställda på distans, vilket ger upphov till oro bland vissa integritetsförespråkare.

En ny rapport hävdar AI-drivna kameror i Amazons leveransbilar har orättvist straffat förare. Artikeln fann att förare led av felaktiga varningar, felaktiga styrkort för förare, opraktiska antaganden om trafiktillstånd och förare som använde metoder för att kringgå tekniken.

"Medan AI förbättras kommer misstag fortfarande att göras," Raymond Ku, chef för Center for Cyberspace Law & Policy vid Case Western Reserve University, berättade för Lifewire i en e-postintervju. "För rättvisans skull tror jag att vi alla tror att någon som på något sätt bestraffas av AI-beslut bör göras medveten om detta och ges en möjlighet att ifrågasätta beslutet."

Amazons AI-kameror

Amazon har sagt det installerade AI-drivna kameror i sina leveransfordon som en säkerhetsåtgärd. Kamerorna är avsedda att övervaka när leveransförare utför farliga manövrar som att köra stoppskyltar eller göra olagliga U-svängar.

När kamerorna upptäcker möjliga osäkra kör-"händelser" tar dessa tillfällen hänsyn till arbetarnas prestationsresultat. Lägre poäng minskar chansen att förare får bonusar, extra lön och priser.

Men Amazon-förare berättade Moderkort att de straffas för vissa körvanor som anses säkra eller utanför deras kontroll. Amazon svarade inte på en begäran från Lifewire om kommentar.

Ku påpekade att eftersom förarna gick med på att bli registrerade, lider de inte av ett intrång i integriteten enligt lagen.

"Det betyder dock inte att den genomsnittliga arbetaren skulle vara nöjd med övervakningen eller inte skulle protestera om de kunde," tillade han. "Detta gäller särskilt när övervakningen börjar inkräkta på mer traditionella personliga utrymmen."

Rapporten väcker bredare frågor om huruvida uppgifterna kan nås och användas i rättegångar eller av polis och federala tjänstemän, dataskyddsadvokat Bethany A. Corbin sa till Lifewire i en e-postintervju. Det kan också påverka ansvar, påpekade hon.

"Till exempel, om AI-tekniken säger åt den anställde att inte titta i sidospeglarna och den anställde råkar ut för en olycka som en direkt följd av det rådet, vem är felet?" Corbin tillade.

Växande övervakning

Övervakningen slutar inte med Amazon. Ett allt fler företag använder teknik att titta på sina anställda på distans, integritetsexperten Chris Hauk sa till Lifewire i en e-postintervju.

Till exempel ett AI-marknadsföringsföretag Blackbelt använder ett Allocate time tracking-system, vilket gör att företaget kan övervaka och spåra sina anställdas datoraktivitet självständigt. Microsofts Workplace Analytics kommer att göra det möjligt för arbetsgivare att titta på en anställds tid på webbplatser, skriva e-postmeddelanden och mer under en arbetsdag.

Walmart arbetar också på ett system som lyssnar efter ljudet av prasslande påsar eller pip från kassaskannrar för att spåra anställdas mätvärden och säkerställa att anställda utför sina uppgifter korrekt och effektivt. Sensorerna kan till och med lyssna på kunder när de chattar när de står i kö och upptäcker om anställda hälsar kunderna ordentligt eller inte.

Arbetsplatsövervakning blir allt vanligare sedan pandemin började, integritetsexpert Pankaj Srivastava sa till Lifewire i en e-postintervju.

"Det mesta av den här tekniken är positionerad som att "förbättra produktiviteten", men som vissa av dessa verktyg operera tyder på en större tolerans för arbetsgivare att övervaka varje aktivitet i deras arbetsstyrka", han Lagt till. "Till exempel att övervaka hur mycket tid anställda spenderar på varje uppgift, ta ett foto på distans för att säkerställa att anställda är det vid sitt skrivbord och till och med övervaka besökta webbplatser och spela in en anställds tangentbordstryck och mus rörelse."

Viss AI-programvara tillåter arbetsgivare att kontinuerligt övervaka anställdas beteende i bakgrunden och rita mönster i deras arbetsflöde, sa han.

"En anställd kan avskedas baserat på sin personliga prestationsrapport som citerar att de tog några minuter längre tid att slutföra en uppgift än vanligt," sa Srivastava.

"Adjö, badrumspauser."