NYC utilise l’IA pour scanner les escrocs des tarifs du métro

La Metropolitan Transportation Authority de New York a admis qu’elle utilisait des caméras équipées d’un logiciel d’intelligence artificielle pour scanner les passagers qui auraient sauté les tourniquets du métro sans payer de frais. Le MTA, qui dit collecter les scans « comme un outil de comptage », prévoit d’étendre le système à plus de deux douzaines de stations supplémentaires d’ici la fin de l’année.

Un responsable de la MTA s’adressant à Gizmodo a déclaré que les outils ne sont destinés qu’à des « fins de recherche », mais les groupes de défense des libertés civiles craignent que la surveillance jusque-là inconnue des usagers des transports en commun ne pose des risques à long terme pour la vie privée et déplace inutilement les ressources et se concentre sur l’exploration des moyens de rendre les transports en commun plus abordables et accessibles. La porte-parole du MTA, Joana Flores, a contesté l’utilisation des mots suivi et numérisation pour décrire le système.

« Le MTA utilise cet outil pour quantifier le montant de l’évasion tarifaire sans identifier les fraudeurs », a déclaré Flores.

MTA a révélé qu’il déployait un système d’IA fabriqué par la société de logiciels espagnole AWAAIT dans sept stations dans un rapport de mai repéré pour la première fois par NBC News. Le système suit les usagers des transports en commun qui utiliseraient de nombreuses méthodes pour éviter de payer des tarifs toujours plus chers. Au cours de la période de test, par exemple, le système aurait déterminé que 12 % des fraudeurs se sont esquivés sous les tourniquets tandis que 20 % ont sauté par-dessus. La majorité des cas (plus de 50 %) impliquaient des passagers franchissant des portes de sortie de secours ouvertes. Vraisemblablement, ce dernier point de données signifie que les cyclistes occasionnels qui suivent simplement les autres à travers une porte ouverte peuvent être détectés par ce système.

Les responsables disent qu’ils prévoient d’étendre le logiciel de numérisation à environ deux douzaines de stations supplémentaires d’ici la fin de l’année et d’autres suivront par la suite. Un MTA expurgé contracter envoyé à NBC News par le Surveillance Technology Oversight Project montre que le MTA expérimente ce système dès juillet 2022. On ne sait pas si la fonctionnalité peut ou non détecter les visages des coureurs.

AWAAIT, la société d’intelligence artificielle basée à Barcelone qui fournit le logiciel au MTA, propose un produit appelé DETECTOR qu’elle décrit comme un « système d’analyse en temps réel qui aide à lutter contre l’évasion tarifaire en utilisant une approche sélective ». Une caméra installée au-dessus d’une barrière de tickets peut surveiller plusieurs portes à la fois avec une précision « robuste », affirme la société. Une fois les passagers fautifs identifiés, les contrôleurs de billets peuvent alors recevoir une alerte sur une application. La société affirme que son système est désormais opérationnel dans trois grandes villes.

AWAAIT n’a pas répondu à la demande de commentaires de Gizmodo demandant des détails sur la précision de ses systèmes ou s’il peut ou non être utilisé pour détecter les visages. Au lieu de cela, le fondateur de l’entreprise et le PDG Xavier Arrufat ont envoyé un e-mail disant la société respecte la vie privée de ses utilisateurs.

« Nous respectons la vie privée de nos clients, nous ne commentez que les informations qu’ils ont déjà divulguées publiquement concernant leur utilisation », a déclaré Arrufat.

AWAAIT a publié une vidéo YouTube présentant DETECTOR opérant dans un métro de Barcelone.

MTA dit qu’il ne partagera pas de données avec la police, mais les groupes de défense des droits ne sont pas convaincus

Le MTA a justifié la numérisation comme un moyen d’essayer de résoudre un estimé 690 millions de dollars perdus à cause de l’évasion tarifaire en 2022. Dans son rapport, les responsables de la MTA ont affirmé qu’il serait «coûteux» que des vérificateurs humains effectuent des vérifications rigoureuses des évasions dans les gares. Le MTA n’a pas répondu à la demande de commentaires de Gizmodo sur les raisons pour lesquelles il a besoin de scanners de visage en particulier pour mesurer avec précision les fraudeurs.

Un responsable du MTA a déclaré à NBC News qu’il ne partageait pas actuellement les données qu’il recueillait avec la police de New York, mais qu’il ne commenterait pas si cette pratique continuerait d’aller de l’avant. Un responsable du MTA a déclaré à Gizmodo qu’il ne stocke les données collectées à partir de ce système que pendant une durée limitée, mais qu’il n’a pas pu fournir plus de détails lorsqu’on lui a demandé une durée précise.

Les groupes de défense des libertés civiles ont exprimé leur scepticisme quant à l’engagement supposé du MTA de séparer ce type de données sensibles des forces de l’ordre.

« Dans une ville où les forces de l’ordre ont l’habitude d’échapper à la surveillance de leur utilisation de la technologie, il est difficile de croire qu’elles n’ont pas l’intention de l’utiliser pour étendre les services de police », a déclaré Caitlin Seeley George de Fight for The Future à Gizmodo. « Et bien qu’ils puissent prétendre que c’est juste pour suivre les fraudeurs, cela a le potentiel d’étendre la surveillance de tous ceux qui voyagent dans la ville. »

Le directeur exécutif de STOP, Albert Fox Cahn, a accepté, ajoutant que cette approche de surveillance néglige la cause sous-jacente de l’évasion rare : la pauvreté et l’augmentation continue des tarifs.

« Cette IA deviendra juste un prétexte pour des postes de police encore plus agressifs », a déclaré Fox Cahn dans un déclaration. « Mais peu importe le niveau de surveillance que nous installons, nous ne pouvons pas amener les gens à payer le train s’ils n’en ont pas les moyens. Et cela soulève de réelles inquiétudes quant à la manière dont le MTA suit les New-Yorkais et où ces données sont conservées.

New York a clairement indiqué son intention de renforcer les capacités de surveillance dans les transports en commun au nom de la sécurité publique. À la fin de l’année dernière, la gouverneure Kathy Hochul a tenu une conférence de presse dans laquelle elle a dit qu’elle espérait installer des caméras de surveillance dans chaque voiture de métro. Hochul est allé un peu plus loin et a même invoqué Geoge Orwell pour dire à haute voix la partie calme.

« Vous pensez que Big Brother vous surveille dans le métro ? Vous avez absolument raison », a déclaré Hochul.

« Si cela vous inquiète, la meilleure réponse est de ne pas commettre de délits dans le métro, alors vous n’aurez aucun problème », a ajouté le gouverneur.

Mise à jour 16h55 HNE Déclaration ajoutée de MTA et AWAAIT.