Почему ИИ наблюдает за рабочими

Работодатели все чаще обращение к программному обеспечению для удаленного мониторинга сотрудников, что вызывает опасения у некоторых защитников конфиденциальности.

В новом отчете утверждается Камеры на базе искусственного интеллекта в автофургонах Amazon несправедливо наказывают водителей. В статье было обнаружено, что водители страдали от ошибочных предупреждений, неправильных оценочных карточек водителей, непрактичных предположений о состоянии дорожного движения и того, что водители применяли методы обхода этой технологии.

«Пока ИИ совершенствуется, ошибки все равно будут совершаться», Раймонд Ку, сообщил Lifewire в интервью по электронной почте директор Центра законодательства и политики в области киберпространства при Университете Кейс Вестерн Резерв. «Честно говоря, я думаю, что все мы считаем, что кого-то, кого каким-либо образом наказывают ИИ, следует известить об этом факте и дать ему возможность оспорить это решение».

AI-камеры Amazon

Амазонка сказал в качестве меры безопасности он установил камеры с искусственным интеллектом на своих транспортных средствах. Камеры предназначены для наблюдения за тем, когда водители-курьеры выполняют опасные маневры, такие как движение по знакам остановки или незаконные развороты.

Когда камеры фиксируют возможные «события» небезопасного вождения, эти случаи учитываются при оценке производительности рабочих. Более низкие оценки уменьшают вероятность получения водителями бонусов, доплаты и призов.

Но водители Amazon сказали Материнская плата что их наказывают за некоторые привычки вождения, которые считаются безопасными или неподконтрольными им. Amazon не ответила на запрос Lifewire о комментарии.

Ку отметил, что, поскольку водители согласились быть записанными, они не пострадали от посягательства на частную жизнь в соответствии с законом.

«Однако это не означает, что средний рабочий был бы доволен наблюдением или не возражал бы, если бы мог», - добавил он. «Это особенно верно, когда наблюдение начинает вторгаться в более традиционные личные пространства».

В отчете поднимаются более широкие вопросы о том, могут ли данные быть доступны и использоваться в судебных процессах или полиции и федеральным чиновникам. поверенный по конфиденциальности данных Бетани А. Корбин сказал Lifewire в интервью по электронной почте. Она отметила, что это также может повлиять на ответственность.

«Например, если технология искусственного интеллекта говорит сотруднику не смотреть в боковые зеркала, и сотрудник попадает в аварию как прямой результат этого совета, кто виноват?» - добавил Корбин.

Растущее наблюдение

Слежка не заканчивается на Amazon. An все больше компаний используют технологии наблюдать за своими сотрудниками удаленно, эксперт по конфиденциальности Крис Хаук сказал Lifewire в интервью по электронной почте.

Например, маркетинговая компания AI Blackbelt использует систему учета рабочего времени Allocate, что позволяет компании автономно отслеживать и отслеживать компьютерную активность своих сотрудников. Аналитика рабочего места Microsoft позволит работодателям следите за тем, сколько времени сотрудник проводит на веб-сайтах, пишет электронные письма и т. д. в течение рабочего дня.

Walmart также работает над системой который прислушивается к шороху сумок или звуковым сигналам сканеров кассовых аппаратов, чтобы отслеживать показатели сотрудников и обеспечивать правильное и эффективное выполнение ими своих задач. Датчики могут даже прослушивать клиентов, когда они болтают в очереди, и определять, правильно ли сотрудники приветствуют клиентов.

Наблюдение на рабочем месте становится все более распространенным с начала пандемии, эксперт по конфиденциальности Панкадж Шривастава сказал Lifewire в интервью по электронной почте.

«Большая часть этой технологии позиционируется как« повышение производительности », однако некоторые из этих инструментов Операция предполагает большую терпимость работодателей к отслеживанию каждой деятельности своей рабочей силы ", - сказал он. добавлен. "Например, отслеживая, сколько времени сотрудники тратят на выполнение каждой задачи, делая удаленное фото, чтобы убедиться, что сотрудники за своим столом, и даже отслеживание посещаемых веб-сайтов и запись нажатий клавиш и мыши сотрудником движение."

По его словам, некоторые программы искусственного интеллекта позволяют работодателям постоянно отслеживать поведение сотрудников в фоновом режиме и рисовать закономерности в их рабочем процессе.

«Сотрудник может быть уволен на основании его персонального отчета о производительности, указав, что на выполнение задачи у него ушло на несколько минут больше, чем обычно», - сказал Шривастава.

«До свидания, туалет ломается».