Защо AI наблюдава работниците

Работодателите са все повече обръщане към софтуер да наблюдава служителите от разстояние, предизвиквайки опасения сред някои защитници на поверителността.

Нов доклад твърди Камерите, задвижвани от изкуствен интелект в микробусите на Amazon, са наказали несправедливо шофьори. Статията установява, че шофьорите страдат от грешни сигнали, неправилни карти с резултати, непрактични предположения за състоянието на трафика и шофьори, които приемат практики за заобикаляне на технологията.

„Докато AI се подобрява, грешки все още ще се правят,“

Реймънд Ку, директор на Центъра за право и политика в киберпространството към университета Case Western Reserve, каза пред Lifewire в интервю по имейл. „Като справедливост, мисля, че всички вярваме, че някой, който е наказан по някакъв начин от вземането на решения с ИИ, трябва да бъде наясно с факта и да му се даде възможност да оспори решението.“

AI камерите на Amazon

Amazon е казал той инсталира камери, задвижвани от изкуствен интелект, в своите превозни средства за доставка като мярка за безопасност. Камерите са предназначени да наблюдават, когато шофьорите на доставките извършват опасни маневри като пускане на знаци за спиране или извършване на незаконни обратни завои.

Когато камерите забелязват възможни опасни „събития“ при шофиране, тези случаи вземат предвид резултатите от работата на работниците. По-ниските резултати намаляват шанса шофьорите да получат бонуси, допълнително заплащане и награди.

Но шофьорите на Amazon казаха дънна платка че са наказани за някои навици за шофиране, които се считат за безопасни или извън техния контрол. Amazon не отговори на искане от Lifewire за коментар.

Ку посочи, че тъй като шофьорите се съгласиха да бъдат записани, те не страдат от нахлуване в поверителността според закона.

„Това обаче не означава, че обикновеният работник би бил доволен от наблюдението или не би възразил, ако може“, добави той. "Това е особено вярно, когато наблюдението започне да посяга на по-традиционни лични пространства."

Докладът повдига по-широки въпроси дали данните могат да бъдат достъпни и използвани в съдебни дела или от полиция и федерални служители, адвокат за поверителност на данните Бетани А. Корбин каза пред Lifewire в интервю по имейл. Това също може да повлияе на отговорността, посочи тя.

„Например, ако технологията AI казва на служителя да не гледа в страничните огледала и служителят претърпя злополука като пряк резултат от този съвет, кой е виновен?“ — добави Корбин.

Нарастващото наблюдение

Наблюдението не спира с Amazon. Ан все повече компании използват технологии да наблюдават своите служители от разстояние, експерт по поверителност Крис Хаук каза пред Lifewire в интервю по имейл.

Например маркетингова фирма с изкуствен интелект Blackbelt използва система за проследяване на времето, което позволява на компанията да наблюдава и проследява компютърната дейност на своите служители автономно. Анализът на работното място на Microsoft ще даде възможност на работодателите да наблюдавайте продължителността на времето на служителя в уебсайтове, писане на имейли и други по време на работен ден.

Walmart също работи по система който слуша звука от шумолене на чанти или бипкания от скенери за плащане, за да проследява показателите на служителите и да гарантира, че служителите изпълняват задачите си правилно и ефективно. Сензорите могат дори да слушат клиентите, докато чатят, докато са на опашка, и откриват дали служителите поздравяват клиентите правилно или не.

Надзорът на работното място става все по-разпространен от началото на пандемията, експерт по поверителност Панкадж Сривастава каза пред Lifewire в интервю по имейл.

„По-голямата част от тази технология се позиционира като „подобряване на производителността“, но по начина, по който някои от тези инструменти Opera предполага по-голяма толерантност на работодателите да наблюдават всяка дейност на своята работна сила“, той добави. „Например, наблюдение колко време служителите прекарват за всяка задача, правене на отдалечена снимка, за да се гарантира, че служителите са на бюрото им и дори да наблюдават посетените уебсайтове и записват ударите на клавиатурата и мишката на служителя движение."

Някои софтуери за изкуствен интелект позволяват на работодателите непрекъснато да наблюдават поведението на служителите във фонов режим и да рисуват модели в работния им процес, каза той.

„Служител може да бъде уволнен въз основа на техния персонализиран отчет за изпълнението, като се позовава, че са им отнели няколко минути повече, за да изпълнят задача от обикновено“, каза Шривастава.

„Сбогом, почивка в банята“.