Чому AI спостерігає за працівниками

Роботодавців стає все більше звертаючись до програмного забезпечення для дистанційного моніторингу співробітників, що викликає занепокоєння серед деяких прихильників конфіденційності.

Стверджує новий звіт Камери з штучним інтелектом у фургонах Amazon несправедливо покарали водіїв. У статті виявлено, що водії страждали від помилкових сповіщень, неправильних карт показників водія, непрактичних припущень про стан дорожнього руху та використання водіями практики, щоб обійти технологію.

«Поки ШІ вдосконалюється, помилки все одно будуть робитися»,

Раймонд Ку, директор Центру права та політики у сфері кіберпростору в Університеті Кейс Вестерн Резерв, сказав Lifewire в інтерв'ю електронною поштою. «З міркувань справедливості, я думаю, що ми всі вважаємо, що хтось, хто покараний будь-яким чином у результаті прийняття рішень, пов’язаних із штучним інтелектом, має бути поінформований про цей факт і дати можливість оскаржити це рішення».

AI камери Amazon

Amazon сказав вона встановила камери з AI в своїх транспортних засобах для забезпечення безпеки. Камери призначені для спостереження, коли водії доставки виконують небезпечні маневри, як-от біг за знаками зупинки або незаконні розвороти.

Коли камери виявляють можливі небезпечні «події», ці випадки враховують результати роботи працівників. Нижчі бали зменшують шанси водіїв отримати бонуси, додаткову оплату та призи.

Але водії Amazon розповіли Материнська плата що їх карають за деякі звички водіння, які вважаються безпечними або непідконтрольними. Amazon не відповів на запит Lifewire про коментар.

Ку зазначив, що оскільки водії погодилися на запис, вони не страждають від порушення приватності згідно із законом.

"Однак це не означає, що пересічний працівник був би задоволений спостереженням або не заперечував би, якби міг", - додав він. «Це особливо вірно, коли стеження починає посягати на більш традиційні особистий простір».

У звіті піднімаються більш широкі питання про те, чи можна отримати доступ до даних і використовувати їх у судових процесах або поліція та федеральні чиновники, адвокат із захисту конфіденційності даних Бетані А. Корбін сказав Lifewire в інтерв'ю електронною поштою. Це також може вплинути на відповідальність, зазначила вона.

"Наприклад, якщо технологія штучного інтелекту каже працівнику не дивитися в бічні дзеркала, і працівник потрапив в аварію як прямий результат цієї поради, хто винен?" – додав Корбін.

Зростаюче спостереження

Спостереження не зупиняється на Amazon. An Все більше компаній використовують технології спостерігати за своїми співробітниками дистанційно, експерт із конфіденційності Кріс Хаук сказав Lifewire в інтерв'ю електронною поштою.

Наприклад, маркетингова фірма AI Blackbelt використовує систему відстеження часу, що дозволяє компанії автономно відстежувати комп’ютерну діяльність своїх співробітників. Workplace Analytics від Microsoft дозволить роботодавцям спостерігайте за часом роботи співробітника на веб-сайтах, написанням електронних листів тощо протягом робочого дня.

Walmart також працює над системою яка прослуховує звук шелесту сумок або звукові сигнали від касових сканерів, щоб відстежувати показники співробітників і гарантувати, що співробітники правильно й ефективно виконують свої завдання. Датчики можуть навіть прослуховувати клієнтів, коли вони спілкуються, перебуваючи в черзі, і визначають, чи правильно співробітники вітають клієнтів.

Нагляд на робочому місці стає все більш поширеним з початку пандемії, експерт із конфіденційності Панкадж Шривастава сказав Lifewire в інтерв'ю електронною поштою.

«Більшість цієї технології позиціонується як «підвищення продуктивності», однак, як деякі з цих інструментів «operate» передбачає більшу толерантність роботодавців до контролю за кожною діяльністю їхньої робочої сили», — сказав він додано. «Наприклад, відстежувати, скільки часу співробітники витрачають на виконання кожного завдання, робити віддалену фотографію, щоб переконатися, що співробітники є на їхньому столі, і навіть відстежують відвідувані веб-сайти та записують натискання клавіатури та миші співробітника рух».

За його словами, деяке програмне забезпечення для штучного інтелекту дозволяє роботодавцям постійно стежити за поведінкою співробітників у фоновому режимі та малювати шаблони в їхньому робочому процесі.

«Співробітника можна звільнити на підставі його персоналізованого звіту про ефективність, в якому зазначено, що на виконання завдання йому знадобилося кілька хвилин довше, ніж зазвичай», — сказав Шривастава.

«До побачення, ванна кімната перерва».