La loi Cooper Davis obligerait Tech Cos. à signaler les utilisateurs de drogue

Vente de drogue sur Internet ont monté en flèche ces dernières années, permettant de colporter de puissants stupéfiants aux adolescents et adolescents américains. C’est une tendance qui a conduit à une épidémie de surdoses et a laissé d’innombrables jeunes morts. Maintenant, un projet de loi prévu pour un vote au Congrès cherche à résoudre le problème, mais il comporte un hic majeur. Les critiques craignent que l’effort législatif visant à réprimer le commerce de la drogue ne transforme une grande partie d’Internet en un appareil d’espionnage fédéral.

Le Loi Cooper Davis était introduit par le sénateur républicain du Kansas Roger Marshall et la sénatrice démocrate du New Hampshire Jeanne Shaheen en mars et est examiné par le comité judiciaire du Sénat depuis des semaines. Nommé d’après un 16 ans Garçon du Kansas décédé d’une overdose de fentanyl il y a deux ans, le projet de loi bipartite, que la commission doit voter jeudi, a suscité un débat intense. Les partisans disent que cela pourrait aider à faire face à une crise de santé publique en spirale; les critiques, quant à eux, y voient une passerelle vers une surveillance Internet large et aveugle.

Gizmodo a parlé avec l’American Civil Liberties Union et l’Electronic Frontier Foundation, deux organisations impliquées dans les discussions politiques entourant le projet de loi. Les deux groupes ont exprimé leur inquiétude quant à l’impact que la loi proposée pourrait avoir sur la vie privée sur Internet. « Il y a de vrais problèmes avec ce projet de loi, à la fois dans la façon dont il est écrit et dans la façon dont il est conceptualisé », a déclaré India McKinney, analyste à l’EFF.

Critiques affirment que, au pire, le projet de loi « suppléerait » les plateformes Internet en tant qu’informateurs de la DEA, créant un appareil de surveillance lourd qui pourrait avoir des conséquences imprévues sur toute la ligne.

Le problème : l’amazonisation du trafic de drogue

Le Cooper Davis Act cherche à résoudre un problème bien réel : la facilité avec laquelle les drogues peut maintenant être acheté en ligne. À l’époque, acheter de la drogue était une corvée. Tout d’abord, vous deviez connaître un gars – généralement pas un super agréable ou un bien soigné. Ensuite, vous deviez vous retrouver à l’appartement dudit gars ou au coin d’une rue, où votre prise distribuait la marchandise. C’était toute une épreuve, remplie de paranoïa et d’inconvénients. Mais de nos jours, acheter des médicaments est beaucoup plus simple. En fait, entendre des fonctionnaires fédéraux dis lel’achat de stupéfiants est actuellement d’environ aussi facile comme DoorDashing un burrito. C’est parce que les ventes de médicaments sur les plateformes de médias sociaux ont explosécréant une expérience d’achat rationalisée qui met tout un marché noir à la portée des jeunes.

Les impacts négatifs de cette tendance sont évidents : rapports montre que de puissants opioïdes sont mis entre les mains des jeunes via des plateformes comme Facebook, Instagram et Snapchat. Les jeunes chercheront des médicaments sur ordonnance – des produits comme le Xanax, l’Oxycontin et le Vicodin – pour se voir vendre des pilules contrefaites qui ont secrètement été mélangées avec du fentanyl ou de la méthamphétamine (ceci est fait en raison du bon marché et de la dépendance des stupéfiants). Les adolescents qui cherchent à marquer se verront alors administrer des médicaments mortellement puissants, qui finissent par les tuer.

Ce que ferait la loi Cooper Davis

Pour tenter de résoudre cette vertigineuse crise de la drogue, le Loi Cooper Davis a proposé une stratégie radicale: selon la version la plus récente du texte du projet de loi, qui a été partagée avec Gizmodo par l’ACLU, la loi obligerait les «fournisseurs de services de communication électronique et de services informatiques à distance» à signaler au procureur général américain toute preuve qu’ils découverte de « la vente et la distribution illégales de substances contrefaites et de certaines substances contrôlées ». Cela signifie que les grandes entreprises technologiques – des géants des médias sociaux comme Instagram, Facebook et Snapchat au cloud computing ou aux fournisseurs de messagerie – seraient légalement tenues de signaler certains types d’activités liées à la drogue (essentiellement tout ce qui a à voir avec le fentanyl, la méthamphétamine, médicaments sur ordonnance contrefaits) au gouvernement fédéral si l’entreprise a pris connaissance des médicaments achetés ou vendus sur ses plateformes.

Cela peut sembler théoriquement une bonne idée, mais la grande question est la suivante : comment, exactement, les plateformes sont-elles censées déterminer qui est un trafiquant de drogue et qui ne l’est pas ? Cette partie n’est pas précisée par la loi. Quoi est Il est clair qu’en vertu de la nouvelle loi, les plateformes seraient tenues de remettre de grandes quantités de données d’utilisateurs au gouvernement si elles soupçonnaient un utilisateur particulier d’actes répréhensibles. Ces données seraient regroupées dans un rapport et envoyées à la DEA et comprendraient…

…le [user’s] adresse de courrier électronique, adresse de protocole Internet, localisateur de ressource uniforme, informations de paiement (à l’exclusion des informations d’identification personnelle), pseudonymes ou surnoms pour le compte utilisé ou tout autre compte associé à l’individu, ou toute autre information d’identification, y compris les informations d’identification autodéclarées …

De plus, les plateformes auraient également le pouvoir discrétionnaire de partager encore plus de données avec le gouvernement s’ils en ont envie, y compris les communications privées comme les DM et les e-mails. Pendant ce temps, les entreprises qui ne rapportent pas de preuves d’infractions liées à la drogue pourraient être condamnées à de lourdes amendes. Un premier défaut de signaler une activité liée à la drogue pourrait entraîner des amendes pouvant atteindre 190 000 $ par infraction, tandis que chaque infraction supplémentaire par la suite pourrait entraîner des amendes pouvant atteindre 380 000 $ par infraction.

Pourquoi le Cooper Davis Act semble être une mauvaise idée

Les critiques voient un certain nombre de dangers inhérents au Cooper Davis Act, mais le plus important est qu’il pourrait effectivement subvertir les déjà limité Protections du quatrième amendement en ce qui concerne Internet. « À l’heure actuelle, la loi fédérale protège les données des utilisateurs et limite les moyens par lesquels les plates-formes et d’autres entités peuvent les partager avec les forces de l’ordre », me dit Cody Venzke, conseiller principal en politiques auprès de l’ACLU. Mais Cooper Davis « créerait explicitement une exception à ces protections », a-t-il déclaré.

En théorie, le quatrième amendement est censé interdire recherche et saisie de propriété privée, ce qui signifie que les flics ne peuvent pas défoncer votre porte et fouiller dans vos affaires sans ordonnance du tribunal. Ce principe fonctionne assez bien dans le monde réel mais devient décidément trouble lorsqu’il s’agit du Web. Étant donné qu’une grande partie des données « personnelles » des Américains sont désormais stockées sur des plateformes en ligne propriétaires, il est difficile de dire que ces données appartiennent réellement à l’utilisateur. Au lieu de cela, c’est vraiment appartenant à la sociétéce qui signifie que si l’entreprise souhaite partager « vos » données avec le gouvernement, elle est généralement en droit de le faire.

Pourtant, les entreprises ne cherchent pas nécessairement à le faire régulièrement et la vie privée des internautes est partiellement protégée des recherches gouvernementales de données d’entreprise par le Loi sur les communications stockées, une loi de 1986 qui stipule que la police doit obtenir un mandat ou une citation à comparaître avant de pouvoir fouiller les comptes numériques de quelqu’un. Mais le SCA souffre déjà d’un nombre de failles et les critiques soulignent que la loi Cooper Davis créerait une autre exception en ce qui concerne les activités liées à la drogue. La SCA est spécifiquement censée protéger les communications privées des internautes, obligeant les flics à récupérer un mandat avant de les fouiller. Cependant, Venzke dit que, en vertu de la version la plus récente du projet de loi Cooper Davis, les fournisseurs de services Internet ont le pouvoir de « remettre des messages, des e-mails, des publications privées » et d’autres communications personnelles aux forces de l’ordre « sans préavis à l’utilisateur ». , aucun contrôle judiciaire et aucun mandat.

Cependant, ce projet de loi ferait plus que réduire les droits en ligne des Américains. Essentiellement, cela remplacerait une grande partie d’Internet en tant qu’aile non officielle du gouvernement fédéral, déchargeant une partie du travail d’enquête des services de police sur les épaules des grandes entreprises technologiques. Au lieu que la DEA doive trouver un suspect de stupéfiants, puis obtenir une ordonnance du tribunal pour les enregistrements numériques de cette personne, les entreprises technologiques seraient chargées de trouver le suspect pour la DEA et serait alors obligé d’envoyer au gouvernement une tonne d’informations sur cet internaute, le tout sans aucune sorte d’implication du système judiciaire.

La loi Cooper Davis pourrait avoir des conséquences imprévues

La prémisse de Cooper Davis est assez inquiétante, mais encore plus alarmante est le manque de détails techniques de la loi. Le projet de loi confie une lourde responsabilité aux sociétés Web (identification et signalement des suspects criminels), mais ne fait presque rien pour élucider la manière dont elles doivent s’y prendre.

Les entreprises à la recherche d’une feuille de route finiraient probablement par se tourner vers une autre politique fédérale connue sous le nom de 2258A. Venzke dit que la loi Cooper Davis est en fait calquée sur 2258A et qu’elle utilise une politique et un langage similaires. Cette loi de longue date oblige les entreprises Web à signaler au gouvernement fédéral le matériel d’exploitation sexuelle d’enfants si elles en prennent connaissance sur leurs plateformes. En vertu de ce règlement, les plateformes Web sont tenues de signaler tout matériel suspecté d’abus d’enfants à la CyberTipline du Centre national pour les enfants disparus et exploités, une organisation à but non lucratif financée par le gouvernement fédéral et créée par le Congrès pour lutter contre la maltraitance des enfants. Le NCMEC, à son tour, transmet les rapports qu’il reçoit aux organismes d’application de la loi compétents pour une enquête plus approfondie.

Au fil des ans, des entreprises telles que Facebook, Apple et Google ont répondu aux exigences de déclaration de 2258A en développant un système sophistiqué Système de surveillance conçu pour détecter le matériel abusif lorsqu’il est téléchargé sur leurs sites ; le système exploite une base de données de hachages cryptographiques, chacun représentant une image ou une vidéo connue d’abus d’enfants. Les entreprises analysent ensuite les comptes d’utilisateurs pour rechercher des correspondances avec ces hachages et, lorsqu’elles obtiennent un résultat positif, elles transmettent les données pertinentes de l’utilisateur au NCMEC.

Cependant, en ce qui concerne l’activité de drogue en ligne, les choses sont décidément plus compliquées. Contrairement au problème du CSAM – dans lequel une base de données de matériel interdit connu peut être compilée et analysée – il est loin d’être clair comment les entreprises identifieraient et signaleraient de manière fiable les activités suspectées de drogue. Les transactions de drogue en ligne sont en grande partie effectuées sous le couvert d’un langage codé, en utilisant des termes et des signaux obliques. Comment les entreprises sont-elles censées passer au crible tout cela sans se rendre (et leurs utilisateurs) fous ?

« Si les plateformes surveillent activement le fentanyl [sales], ils vont devoir chercher bien plus que des images et des vidéos », a déclaré Venzke. « Ils vont devoir fouiller dans la parole, ils vont devoir regarder les emojis, ils vont devoir essayer de déduire l’intention de l’utilisateur. » Étant donné que le projet de loi précise peu comment les rapports seront effectués, ce sera aux entreprises de déterminer comment faire tout cela. Cela pourrait facilement conduire les plates-formes à créer leurs propres systèmes de surveillance internes, qui sont conçus pour surveiller la façon dont les utilisateurs de la plate-forme interagissent dans le but de dénicher l’activité liée à la drogue. Dans ce scénario, la probabilité que les plateformes finissent par signaler beaucoup de « faux positifs » au gouvernement (c’est-à-dire des personnes soupçonnées d’activité liée à la drogue qui, en réalité, n’ont rien fait de mal) serait élevée, dit Venzke.

« La modération de contenu de ce type, à grande échelle, est vraiment, vraiment, vraiment difficile », a convenu McKinney. « Aussi bonne que soit l’IA, le contexte compte. Un mot ne devrait pas suffire à déclencher une surveillance supplémentaire.

Dans l’ensemble, les critiques estiment que la loi pourrait être un désastre pour la confidentialité sur Internet.

« Le point de la Constitution, le point du Quatrième Amendement… est que le gouvernement est censé être limité quant à ce qu’il est autorisé à accéder à propos de nos pensées privées », a déclaré McKinney. « De toute évidence, le gouvernement n’aime pas être contraint. Ils veulent pouvoir tout voir.

Venzke, quant à lui, a déclaré que lui et ses collègues « retenaient leur souffle » jusqu’à ce que le vote soit adopté. « Le pouvoir judiciaire du Sénat a été proactif dans la sécurité des personnes en ligne, mais malheureusement, ils l’ont fait en sapant la liberté d’expression et la confidentialité en ligne, ce qui n’est pas la bonne approche… Nous espérons que les gens défendront nos droits à la vie privée. et que le projet de loi sera retiré de l’examen.

Gizmodo a contacté les bureaux du sénateur Marshall pour obtenir des commentaires, mais n’a pas eu de réponse. Nous mettrons à jour cette histoire si nous le faisons.