Waarom AI naar werknemers kijkt

Werkgevers zijn steeds vaker wenden tot software om werknemers op afstand te monitoren, wat aanleiding geeft tot bezorgdheid bij sommige voorstanders van privacy.

Een nieuw rapport beweert AI-aangedreven camera's in de bestelwagens van Amazon hebben chauffeurs onterecht bestraft. Uit het artikel bleek dat chauffeurs last hadden van foutieve waarschuwingen, onjuiste scorekaarten voor chauffeurs, onpraktische aannames over de verkeerssituatie en chauffeurs die praktijken aannamen om de technologie te omzeilen.

"Hoewel AI verbetert, zullen er nog steeds fouten worden gemaakt,"

Raymond Ku, directeur van het Center for Cyberspace Law & Policy aan de Case Western Reserve University, vertelde Lifewire in een e-mailinterview. "Om eerlijk te zijn, denk ik dat we allemaal geloven dat iemand die op enigerlei wijze wordt bestraft door AI-besluitvorming, hiervan op de hoogte moet worden gesteld en de kans moet krijgen om de beslissing aan te vechten."

Amazon's AI-camera's

Amazone heeft gezegd het installeerde AI-aangedreven camera's in zijn bestelwagens als veiligheidsmaatregel. De camera's zijn bedoeld om te monitoren wanneer bezorgers gevaarlijke manoeuvres uitvoeren, zoals het rennen van stopborden of het maken van illegale U-bochten.

Wanneer de camera's mogelijk onveilige "gebeurtenissen" tijdens het rijden detecteren, spelen deze gevallen een rol in de prestatiescores van werknemers. Lagere scores verkleinen de kans dat chauffeurs bonussen, extra loon en prijzen krijgen.

Maar Amazon-chauffeurs vertelden Moederbord dat ze worden gestraft voor bepaalde rijgewoonten die als veilig worden beschouwd of waar ze geen controle over hebben. Amazon heeft niet gereageerd op een verzoek van Lifewire om commentaar.

Ku wees erop dat, aangezien de chauffeurs ermee instemden om te worden opgenomen, ze volgens de wet niet lijden aan een inbreuk op de privacy.

"Dat betekent echter niet dat de gemiddelde werknemer blij zou zijn met het toezicht of geen bezwaar zou hebben als ze dat zouden kunnen", voegde hij eraan toe. "Dit is vooral het geval wanneer het toezicht inbreuk begint te maken op meer traditionele persoonlijke ruimtes."

Het rapport roept bredere vragen op of de gegevens toegankelijk zijn en gebruikt kunnen worden in rechtszaken of door politie- en federale functionarissen, advocaat gegevensbescherming Bethany A. Corbin vertelde Lifewire in een e-mailinterview. Het kan ook van invloed zijn op de aansprakelijkheid, wees ze erop.

"Als de AI-technologie de werknemer bijvoorbeeld vertelt niet in de zijspiegels te kijken en de werknemer een ongeval krijgt als direct gevolg van dat advies, wie is dan schuldig?" voegde Corbin toe.

Toezicht groeien

Het toezicht stopt niet bij Amazon. Een steeds meer bedrijven gebruiken technologie om hun medewerkers op afstand in de gaten te houden, privacy-expert Chris Hauk vertelde Lifewire in een e-mailinterview.

Bijvoorbeeld, AI-marketingbedrijf Blackbelt maakt gebruik van een Allocate tijdregistratiesysteem, waardoor het bedrijf de computeractiviteit van zijn werknemers autonoom kan volgen en volgen. Met Workplace Analytics van Microsoft kunnen werkgevers: bekijk de tijdsduur van een werknemer op websites, het schrijven van e-mails en meer tijdens een werkdag.

Walmart werkt ook aan een systeem die luistert naar het geritsel van tassen of pieptonen van kassascanners om werknemersstatistieken bij te houden en ervoor te zorgen dat werknemers hun taken correct en efficiënt uitvoeren. De sensoren kunnen zelfs meeluisteren met klanten terwijl ze chatten terwijl ze in de rij staan ​​en detecteren of medewerkers klanten al dan niet correct begroeten.

Toezicht op de werkplek komt steeds vaker voor sinds het begin van de pandemie, privacy-expert Pankaj Srivastava vertelde Lifewire in een e-mailinterview.

"De meeste van deze technologie wordt gepositioneerd als 'verbetering van de productiviteit', maar zoals sommige van deze tools opereren suggereert een grotere tolerantie van werkgevers om elke activiteit van hun personeel te controleren, "hij toegevoegd. "Bijvoorbeeld controleren hoeveel tijd werknemers aan elke taak besteden, een foto op afstand nemen om ervoor te zorgen dat werknemers aan hun bureau, en zelfs het monitoren van bezochte websites en het opnemen van de toetsenbordaanslagen en muis van een werknemer beweging."

Met sommige AI-software kunnen werkgevers het gedrag van werknemers continu op de achtergrond volgen en patronen in hun workflow tekenen, zei hij.

"Een werknemer kan worden ontslagen op basis van hun persoonlijke prestatierapport, waarbij wordt vermeld dat het een paar minuten langer duurde om een ​​taak te voltooien dan normaal", zei Srivastava.

"Tot ziens, badkamerpauzes."