Les travailleurs des concerts sont sous « surveillance sans précédent » en 2021

Pa Edrissa Manjang, chauffeur Uber au Royaume-Uni, a passé un an de sa vie à travailler pour la société de covoiturage avant d’être brutalement licencié par un algorithme. « Ce n’était pas bon du tout », a déclaré Manjang dans un entrevue avec Worker Info Exchange. « C’était comme si la plupart du temps vous aviez affaire à des robots. »

Dans une nouvelle version rapport, Manjang affirme qu’il a été licencié après que le système de vérification de la reconnaissance faciale d’Uber n’a pas réussi à reconnaître les photos qu’il a soumis à l’application. Uber a mis en place ce système de vérification comme mesure de sécurité pour garantir aux clients que leurs chauffeurs sont bien ceux qu’ils prétendent être, mais dans ce cas, et d’autres du même genre, le système de détection s’est trompé. Manjang, qui est Bmanque et connaissait les systèmes de reconnaissance faciale en général lutte pour identifier les utilisateurs non blancs, a fait appel de l’affaire et a insisté pour qu’un humain examine ses photos, mais affirme qu’il n’a pas réussi.

« Ce n’est pas ce à quoi nous sommes habitués », a déclaré Manjang dans le rapport. « J’ai travaillé avec le gouvernement et des entreprises publiques de ce pays. Vous avez cet accès à votre employeur, mais avec Uber, ce n’est pas le cas. Vous avez l’impression de travailler pour un ordinateur.

L’histoire de Manjang est emblématique d’un dilemme plus large qui afflige les travailleurs des concerts partout dans le monde, détaillé dans un nouveau rapport de 82 pages publié Lundi par Worker Info Exchange, Privacy International, et Union des chauffeurs et coursiers d’applications titré, Géré par des bots : exploitation axée sur les données dans l’économie du gig. Le rapport détaille la pléthore de façons dont les travailleurs des concerts sont régulièrement soumis à des journées entières, « sans précédent surveillance » techniques nécessaires pour accomplir leur travail. Pire encore, bon nombre de ces travailleurs se retrouvent à la merci des systèmes de surveillance alors même qu’ils sont en veille pour accepter un nouvel emploi.

Bien que les types spécifiques de techniques de surveillance décrits varient considérablement, le rapport se penche sur les logiciels de détection des fraudes et les systèmes de vérification de la reconnaissance faciale, qui gagnent tous deux en popularité. Les systèmes de reconnaissance faciale en particulier sont souvent présentés par les fabricants d’applications comme un moyen de renforcer la sécurité, mais le rapport affirme que les cas réels de travailleurs de concert essayant de contourner les règles sont relativement rares.

« L’introduction de la technologie de reconnaissance faciale par l’industrie a été tout à fait disproportionnée par rapport au risque perçu », soutiennent les auteurs du rapport.

Le rapport détaille également la façon dont les applications utilisent de plus en plus les systèmes d’IA pour remplir des rôles autrefois généralement associés à un responsable, allant même jusqu’à licencier des travailleurs dans certains cas. Le rapport interroge l’utilisation d’algorithmes par les entreprises de travail de concert pour effectuer la gestion et dicter les prix grâce à l’utilisation de techniques de surveillance des pilotes numériques telles que le GPS, les évaluations des clients et l’achèvement des travaux. Dans le cas d’Uber, les préférences et le comportement passés des conducteurs peuvent également jouer un rôle dans la question de savoir si les applications dirigent un conducteur vers un client.

Les chercheurs ont également trouvé uncomptes de travailleurs résiliés injustement en raison de contrôles de géolocalisation qui accusaient à tort les conducteurs d’avoir tenté de partager frauduleusement leurs comptes. Ces exemples soulignent à la fois la nature étroitement surveillée des applications et les conséquences réelles des décisions de gestion induites par l’IA.

« Les entreprises de plateforme opèrent dans un espace sans loi où elles pensent pouvoir établir les règles », a déclaré Bama Athreya, membre de l’Open Society Foundations. « Malheureusement, ce n’est pas un jeu ; les réalités virtuelles ont des conséquences dures pour les travailleurs du concert dans la vraie vie. »

En plus de contribuer à un environnement qui donne de plus en plus l’impression que les travailleurs ne sont pas valorisés automates, la poursuite de l’externalisation des décisions de gestion clés vers les systèmes d’IA pourrait également potentiellement aller à l’encontre de certaines protections juridiques européennes.

Plus précisément, le rapport prétend avoir vu une augmentation du nombre de travailleurs axés sur l’IA licenciements dans l’ensemble de l’industrie du spectacle, qui, selon eux, pourraient constituer une violation de l’article 22 du règlement général sur la protection des données (RGPD) de l’Union européenne. Sous ça disposition, les travailleurs ne peuvent être soumis à des décisions de justice fondées sur le seul traitement automatisé des données.

Article 20 du RGPD, pendant ce temps, États que les sujets (dans ce cas, les travailleurs du concert) ont le droit de recevoir les données qu’ils ont fournies. Et tandis que la plupart des applications de travail de concert fournissent à leurs employés des données, l’auteur du rapports affirment qu’ils s’arrêtent souvent avant de fournir les données nécessaires aux conducteurs pour contester de manière significative leur salaire ou d’autres conditions de travail. Dans d’autres cas, les travailleurs doivent naviguer dans un dédale de sites Web complexes juste pour accéder aux données qui leur sont censées être garanties. Le rapport soutient qu’il existe actuellement une «asymétrie informationnelle» où les fabricants d’applications possèdent toutes les données nécessaires tandis que les conducteurs eux-mêmes sont souvent laissés dans l’ignorance.

Bien que tout cela puisse sembler assez sombre pour les travailleurs de concert concernés par la surveillance numérique, il existe des actions juridiques optimistes et des changements en cours.

Plus tôt cette année, l’autorité italienne de protection des données a pris des mesures contre la société de travail de concert Deliveroo, émission une amende de 2,5 millions de dollars pour avoir prétendument enfreint les protections du RGPD. Dans sa décision, l’agence a déclaré que l’entreprise manquait de transparence sur la façon dont ses algorithmes étaient utilisés pour attribuer les commandes aux travailleurs et réserver les quarts de travail.

En Espagne, les législateurs ont récemment approuvé une loi historique qui obligerait les plateformes de livraison à embaucher environ 30 000 coursiers qui étaient auparavant considérés comme des entrepreneurs indépendants et fournir plus de transparence sur la façon dont les algorithmes sont utilisés dans la gestion. Dans le cadre de la nouvelle loi, les entreprises seront tenues de fournir aux travailleurs ou à leurs représentants légaux des informations sur la manière dont les algorithmes sont utilisés pour évaluer leurs performances au travail. pendant ce temps, au Royaume-Uni, la Cour suprême du pays confirmé une décision plus tôt cette année obligeant Uber à classer ses chauffeurs comme « travailleurs » plutôt que comme entrepreneurs indépendants, une distinction qui leur accorde des protections supplémentaires au travail.

Il y a un certain mouvement autour de la transparence algorithmique aux États-Unis également. Le mois dernier, le conseil municipal de New York passé un projet de loi unique en son genre qui interdit aux employeurs d’utiliser des outils de sélection d’IA pour embaucher des candidats à moins que ces outils n’aient fait l’objet d’un audit de partialité.

Le travailleur de concert Le rapport indique clairement que ces problèmes de surveillance des travailleurs et de gestion de l’IA font désormais partie de cet écosystème déséquilibré, d’autant plus que de plus en plus d’employeurs traditionnels lorgner le modèle de travail sur scène comme une opportunité commerciale attrayante. Dans ce contexte, les auteurs soutiennent que les droits du travail deviennent « inextricablement liés à l’exercice des droits sur les données ».