OpenAI ajoute des filigranes de texte dans l'UE parce que la réglementation fonctionne

Faire passer le travail de ChatGPT pour le vôtre est sur le point de devenir plus difficile, du moins si vous vivez dans l'Union européenne. Le lundi, OpenAI annoncé qu'il commencerait à insérer un filigrane invisible, imperceptible à l'œil nu mais identifiable par machine, dans toutes les sorties de texte générées par ses modèles d'IA, y compris ChatGPT et son agent de codage Codex.

Le filigrane permettra à OpenAI de se conformer à la loi européenne sur l'IA, qui exige que le texte créé par un modèle inclue un identifiant lisible par machine qui signale le contenu comme généré par l'IA. Selon l'entreprise, le filigrane sera dans un premier temps une fonctionnalité facultative, et les utilisateurs du monde entier pourront choisir d'activer ce commutateur à partir d'aujourd'hui. Dans les semaines à venir, le filigrane sera ajouté aux « sorties de texte ChatGPT et Codex éligibles dans l'Union européenne », ce qui ne sera pas facultatif : il apparaîtra automatiquement, sans interrupteur d'arrêt.

Alors, qui pourra voir le filigrane ? Selon OpenAI, les chercheurs et les organisations expertes auront accès à un détecteur capable de repérer l'indicateur invisible. OpenAI a choisi de ne pas rendre l'outil d'identification accessible au public lors de son lancement en raison du risque de faux positifs. Au lieu de cela, il a déclaré que l’accès serait accordé « au cas par cas » pour soutenir l’évaluation.

OpenAI n'est que la dernière entreprise à emprunter la voie du filigrane. Anthropic a lancé un marqueur similaire, lisible par machine, en août (ce qui a conduit les gens à chercher immédiatement des solutions de contournement et des moyens d'effacer leur texte de l'indicateur IA). Et Google DeepMind a été mettre un filigrane dans ses sorties depuis quelques années maintenant. (Etrangement, Google a fait marche arrière sur ce point, annonce en août que les utilisateurs peuvent supprimer les filigranes des images, des vidéos et des chansons dans les pays où cela n'est pas obligatoire).

Notamment, les filigranes de ces autres sociétés s'appliquent (ou s'appliquent) aux utilisateurs aux États-Unis. Ce n'est pas le cas d'OpenAI, malgré l'inquiétude croissante dans le pays face à la prolifération du contenu généré par l'IA. UN récent sondage du Rainey Center a constaté que près de huit personnes sur 10 soutiennent les exigences de filigrane de l'IA, dont 82 % des démocrates et 75 % des républicains.

Mais le soutien public ne détermine pas la politique, et les États-Unis sont toujours à la traîne en matière de réglementation fédérale relative à l’IA. En l’absence d’obligation pour les entreprises d’IA pionnières d’inclure un filigrane qui aide les utilisateurs et les plateformes à identifier rapidement le contenu généré par l’IA, il n’y a vraiment aucune motivation pour qu’OpenAI se conforme de manière proactive à une loi qui n’existe pas. Il s’avère que les réglementations fonctionnent si vous les adoptez et les appliquez simplement.