Uber zbog algoritma kažnjen s 825 milijuna eura

Ako odluka ostane na snazi, bit će to druga najveća kazna ikad izrečena prema europskoj Općoj uredbi o zaštiti podataka (GDPR). Rekord i dalje drži Meta, kojoj je Irska 2023. izrekla kaznu od 1,2 milijarde eura zbog nezakonitog prijenosa podataka europskih korisnika Facebooka u SAD. Uber je najavio žalbu.

“Snažno se protivimo ovoj odluci i nerazmjernoj kazni”, poručili su iz kompanije, dodajući da ozbiljno shvaćaju prava vozača te da njihova sadašnja pravila uključuju ljudsku provjeru i mogućnost osporavanja suspenzije.

Kada algoritam odlučuje o vašem poslu

U središtu slučaja nalazi se pitanje koliko daleko kompanije smiju ići u automatiziranom donošenju odluka koje izravno utječu na ljude.

GDPR ograničava odluke koje donose isključivo algoritmi kada one imaju značajne posljedice za pojedinca. U takvim slučajevima potrebna je stvarna ljudska provjera, a osoba mora imati mogućnost osporiti odluku.

Nizozemski regulator zaključio je da je Uber prekršio upravo ta prava.

“AP je utvrdio da je Uber prekršio prava vozača, konkretno pravo da ne budu podvrgnuti automatiziranom donošenju odluka koje imaju značajne posljedice”, stoji u odluci.

Regulator je utvrdio i povredu prava vozača na informiranost te slučaj ocijenio dovoljno ozbiljnim za kaznu od 825 milijuna eura.

Automatsko upravljanje radnicima

Slučaj se odnosi na incidente između 2020. i 2022. godine, a proizašao je iz pritužbe podnesene u Francuskoj. Postupak vodi nizozemski regulator jer se Uberovo europsko sjedište nalazi u Nizozemskoj.

Uberovi sustavi privremeno su suspendirali pojedine vozače zbog sumnje na prijevaru. Algoritmi su, među ostalim, označavali vozače za koje su procijenili da namjerno biraju duže rute kako bi povećali cijenu vožnje ili prihvaćaju vožnje koje ne namjeravaju završiti.

Vozači s lošim ocjenama korisnika u nekim su slučajevima bili i trajno suspendirani.

Uber tvrdi da račune osumnjičenih za prijevaru nije trajno deaktivirao bez ljudske provjere te da danas odluke o trajnom uklanjanju vozača s platforme više ne donosi isključivo automatiziranim putem.

Slučaj bi mogao imati šire posljedice za kompanije koje se oslanjaju na algoritme za upravljanje radnicima. Kazna od gotovo milijardu dolara pokazuje koliko regulatorno skup može postati automatizirani sustav kada njegove odluke izravno utječu na nečiji posao i prihode.