Mengapa AI Mengawasi Pekerja

Pengusaha semakin beralih ke perangkat lunak untuk memantau karyawan dari jarak jauh, menimbulkan kekhawatiran di antara beberapa pendukung privasi.

Sebuah laporan baru mengklaim Kamera bertenaga AI di van pengiriman Amazon telah menghukum pengemudi secara tidak adil. Artikel tersebut menemukan bahwa pengemudi mengalami peringatan yang salah, kartu skor pengemudi yang salah, asumsi kondisi lalu lintas yang tidak praktis, dan pengemudi yang mengadopsi praktik untuk menghindari teknologi.

"Sementara AI membaik, kesalahan masih akan dilakukan,"

Raymond Ku, direktur Center for Cyberspace Law & Policy di Case Western Reserve University, mengatakan kepada Lifewire dalam sebuah wawancara email. "Sebagai masalah keadilan, saya pikir kita semua percaya bahwa seseorang yang dihukum dengan cara apa pun oleh pengambilan keputusan AI harus disadarkan akan faktanya dan diberi kesempatan untuk menentang keputusan tersebut."

Kamera AI Amazon

Amazon telah berkata itu memasang kamera bertenaga AI di kendaraan pengirimannya sebagai langkah keamanan. Kamera dimaksudkan untuk memantau saat pengemudi pengiriman melakukan manuver berbahaya seperti menjalankan rambu berhenti atau melakukan putaran balik ilegal.

Ketika kamera melihat kemungkinan "peristiwa" mengemudi yang tidak aman, faktor-faktor ini menjadi faktor dalam skor kinerja pekerja. Skor yang lebih rendah mengurangi kemungkinan pengemudi mendapatkan bonus, gaji ekstra, dan hadiah.

Tetapi pengemudi Amazon memberi tahu papan utama bahwa mereka dihukum karena beberapa kebiasaan mengemudi yang dianggap aman atau di luar kendali mereka. Amazon tidak menanggapi permintaan dari Lifewire untuk memberikan komentar.

Ku menunjukkan bahwa karena pengemudi setuju untuk direkam, mereka tidak mengalami pelanggaran privasi di bawah hukum.

“Namun, bukan berarti rata-rata pekerja akan senang dengan pengawasan atau tidak keberatan jika bisa,” tambahnya. "Ini terutama benar ketika pengawasan mulai merambah ruang pribadi yang lebih tradisional."

Laporan tersebut menimbulkan pertanyaan yang lebih luas apakah data dapat diakses dan digunakan dalam tuntutan hukum atau oleh polisi dan pejabat federal, pengacara privasi data Bethany A. Corbin kata Lifewire dalam sebuah wawancara email. Itu juga bisa berdampak pada tanggung jawab, katanya.

"Misalnya, jika teknologi AI memberi tahu karyawan untuk tidak melihat ke kaca spion dan karyawan mengalami kecelakaan sebagai akibat langsung dari saran itu, siapa yang salah?" tambah Corbin.

Tumbuh Pengawasan

Pengawasan tidak berhenti di Amazon. NS semakin banyak perusahaan yang menggunakan teknologi untuk mengawasi karyawan mereka dari jarak jauh, pakar privasi Chris Hauk kata Lifewire dalam sebuah wawancara email.

Misalnya, perusahaan pemasaran AI Blackbelt menggunakan sistem pelacakan waktu Alokasikan, memungkinkan perusahaan untuk memantau dan melacak aktivitas komputer karyawannya secara mandiri. Workplace Analytics Microsoft akan memungkinkan pemberi kerja untuk perhatikan lamanya waktu karyawan di situs web, menulis email, dan lainnya selama hari kerja.

Walmart juga sedang mengerjakan sebuah sistem yang mendengarkan suara gemerisik tas atau bunyi bip dari pemindai checkout untuk melacak metrik karyawan dan memastikan karyawan melakukan tugas mereka dengan benar dan efisien. Sensor bahkan dapat mendengarkan pelanggan saat mereka mengobrol saat mengantre dan mendeteksi apakah karyawan menyapa pelanggan dengan benar atau tidak.

Pengawasan di tempat kerja menjadi lebih umum sejak awal pandemi, pakar privasi Pankaj Srivastava kata Lifewire dalam sebuah wawancara email.

"Sebagian besar teknologi ini diposisikan sebagai 'meningkatkan produktivitas', namun, cara beberapa alat ini beroperasi menunjukkan toleransi yang lebih besar dari pengusaha untuk memantau setiap aktivitas tenaga kerja mereka," katanya ditambahkan. "Misalnya, memantau berapa banyak waktu yang dihabiskan karyawan untuk setiap tugas, mengambil foto jarak jauh untuk memastikan karyawan berada di meja mereka, dan bahkan memantau situs web yang dikunjungi dan merekam gerakan keyboard dan mouse karyawan pergerakan."

Beberapa perangkat lunak AI memungkinkan pengusaha untuk terus memantau perilaku karyawan di latar belakang dan menggambar pola dalam alur kerja mereka, katanya.

"Seorang karyawan dapat dipecat berdasarkan laporan kinerja pribadi mereka dengan alasan mereka membutuhkan waktu beberapa menit lebih lama untuk menyelesaikan tugas dari biasanya," kata Srivastava.

"Selamat tinggal, kamar mandi istirahat."