Uber получил €825 млн штрафа за автоматические блокировки водителей

8 октября EDPB опубликовал решение нидерландского регулятора по Uber. Штраф составил 824 990 000 евро, и меня в нём интересует не сумма, а повод. Наказали за то, как алгоритм отключал водителей от заработка.

Что сказало ведомство

Жалобу подали 171 водитель из Франции через Лигу прав человека. Европейский офис Uber находится в Нидерландах, поэтому дело вёл местный регулятор AP. Речь о случаях 2018–2022 годов.

AP установил, что решения о водителях Uber принимал полностью автоматически. При подозрении в мошенничестве или слишком низких оценках пассажиров аккаунт временно отключался. При стабильно низких оценках отключение становилось постоянным. Пока аккаунт был заблокирован, водитель терял заработок. Регулятор увидел в этом нарушение статьи 22 GDPR, которая запрещает такие решения без участия человека. Ещё Uber плохо объяснял водителям, как устроено профилирование, это статья 13. По данным EDPB, нарушения компания прекратила, но штраф обжаловала, и окончательного решения суда нет.

Что это значит для бизнеса

Я бы читал эту историю не только про такси. Так же работают маркетплейсы, которые блокируют продавцов по сигналу антифрода, и сервисы, отключающие исполнителей за рейтинг. Ошибка алгоритма для человека с той стороны означает потерю дохода.

Если бы я строил такую систему, я бы поставил человека между сигналом и блокировкой. Ещё я бы дал заблокированному понятную причину и способ оспорить решение.

В России похожая норма есть в статье 16 закона 152-ФЗ. Решение, которое влечёт юридические последствия только на основе автоматической обработки, допускается лишь с письменного согласия человека или в случаях из закона, а возразить против него можно. С 1 октября ещё действует закон о платформенной экономике. ФАС обещала по нему проверять обоснованность блокировок личных кабинетов, и я бы готовился к этим вопросам заранее.

Кто ещё об этом написал

В нашей ленте пересказов пока нет. Первоисточник — новость EDPB от 8 октября.