Recomandări cheie
- Sistemele AI care monitorizează camioanele de livrare penalizează în mod nedrept șoferii Amazon, susține un nou raport.
- Sistemul Amazon face parte dintr-o tendință în creștere a companiilor care folosesc tehnologia pentru a-și monitoriza angajatorii de la distanță.
-
Unele software AI le permit angajatorilor să monitorizeze continuu comportamentul angajaților în fundal și să deseneze modele în fluxul lor de lucru.
Angajatorii apelează din ce în ce mai mult la software pentru a monitoriza angajații de la distanță, stârnind îngrijorări în rândul unor susținători ai confidențialității.
Un nou raport susține că camerele cu inteligență artificială din furgonetele de livrare Amazon au penalizat în mod nedrept șoferii. Articolul a constatat că șoferii sufereau de alerte eronate, fișe incorecte ale șoferilor, ipoteze nepractice privind starea traficului și șoferii care adoptă practici pentru eludarea tehnologiei.
„În timp ce inteligența artificială se îmbunătățește, se vor face în continuare greșeli”, a declarat Raymond Ku, directorul Centrului pentru Drept și Politică Cyberspace la Universitatea Case Western Reserve, într-un interviu prin e-mail. „Ca o chestiune de corectitudine, cred că toți credem că cineva care este penalizat în vreun fel de luarea deciziilor AI ar trebui să fie conștient de fapt și să i se ofere posibilitatea de a contesta decizia.”
Camere AI de la Amazon
Amazon a declarat că a instalat camere alimentate cu inteligență artificială în vehiculele sale de livrare ca măsură de siguranță. Camerele sunt menite să monitorizeze când șoferii de livrare efectuează manevre periculoase, cum ar fi rularea semnelor de oprire sau întoarcerea ilegală în U.
Atunci când camerele detectează posibile „evenimente” de conducere nesigure, aceste cazuri iau în considerare scorurile de performanță ale lucrătorilor. Scorurile mai mici reduc șansa ca șoferii să primească bonusuri, plăți suplimentare și premii.
Dar șoferii Amazon i-au spus lui Motherboard că sunt pedepsiți pentru anumite obiceiuri de condus considerate sigure sau dincolo de controlul lor. Amazon nu a răspuns la o solicitare din partea Lifewire de a comenta.
Ku a subliniat că, deoarece șoferii au fost de acord să fie înregistrați, ei nu suferă de o invazie a vieții private conform legii.
„Cu toate acestea, asta nu înseamnă că muncitorul obișnuit ar fi mulțumit de supraveghere sau nu s-ar opune dacă ar putea”, a adăugat el. „Acest lucru este valabil mai ales atunci când supravegherea începe să invadeze spațiile personale mai tradiționale.”
Raportul ridică întrebări mai ample dacă datele pot fi accesate și utilizate în procese sau de către poliție și oficiali federali, a declarat avocatul pentru confidențialitatea datelor Bethany A. Corbin pentru Lifewire într-un interviu prin e-mail. De asemenea, ar putea afecta răspunderea, a subliniat ea.
"De exemplu, dacă tehnologia AI îi spune angajatului să nu se uite în oglinzile laterale și angajatul are un accident ca urmare directă a acestui sfat, cine este de vină?" Corbin a adăugat.
Supraveghere în creștere
Supravegherea nu se oprește cu Amazon. Un număr tot mai mare de companii folosesc tehnologia pentru a-și urmări angajații de la distanță, a declarat expertul în confidențialitate Chris Hauk pentru Lifewire într-un interviu prin e-mail.
De exemplu, firma de marketing AI Blackbelt folosește un sistem de urmărire a timpului Allocate, care permite companiei să monitorizeze și să urmărească activitatea pe computer a angajaților săi în mod autonom. Microsoft Workplace Analytics va permite angajatorilor să urmărească durata de timp a angajatului pe site-uri web, să scrie e-mailuri și multe altele în timpul unei zile lucrătoare.
Walmart lucrează, de asemenea, la un sistem care ascultă sunetul de foșnet al pungilor sau bipurile de la scanerele de casă pentru a urmări valorile angajaților și a se asigura că angajații își îndeplinesc sarcinile corect și eficient. Senzorii pot chiar să asculte clienții în timp ce conversează în timp ce sunt la coadă și pot detecta dacă angajații îi salută sau nu în mod corespunzător.
Supravegherea la locul de muncă devine din ce în ce mai răspândită de la debutul pandemiei, a declarat expertul în confidențialitate Pankaj Srivastava pentru Lifewire într-un interviu prin e-mail.
„Majoritatea acestei tehnologii este poziționată ca „îmbunătățirea productivității”, cu toate acestea, modul în care funcționează unele dintre aceste instrumente sugerează o toleranță mai mare a angajatorilor de a monitoriza fiecare activitate a forței de muncă”, a adăugat el. „De exemplu, monitorizarea cât timp petrec angajații pentru fiecare sarcină, realizarea unei fotografii de la distanță asigurându-se că angajații sunt la birou și chiar monitorizarea site-urilor web vizitate și înregistrarea mișcărilor de la tastatură și a mouse-ului unui angajat.”
În timp ce AI se îmbunătățește, se vor face în continuare greșeli.
Unele software AI le permit angajatorilor să monitorizeze continuu comportamentul angajaților în fundal și să deseneze modele în fluxul lor de lucru, a spus el.
„Un angajat poate fi concediat pe baza raportului său personalizat de performanță, invocând că i-a luat câteva minute mai mult pentru a îndeplini o sarcină decât de obicei”, a spus Srivastava.
„La revedere, pauze de baie.”
