Amnesty International utilise des images d’IA d’atteintes aux droits humains en Colombie

Amnesty International, l’une des principales organisations mondiales de défense des droits humains, défend son choix d’utiliser un Générateur d’images IA pour dépeindre les manifestations et la brutalité policière à Colombia. Amnesty a déclaré à Gizmodo qu’elle utilisait un générateur d’IA pour décrire les violations des droits de l’homme afin de préserver l’anonymat des manifestants vulnérables. Experts craignent cependant que l’utilisation de la technologie pourrait saper la crédibilité des groupes de défense déjà assiégés par des gouvernements autoritaires qui jeter doute sur l’authenticité du réel images.

Publication du compte régional d’Amnesty International en Norvège trois images dans un fil de tweet au cours du week-end reconnaissant le deuxième anniversaire d’une manifestation majeure à Colombia où la police manifestants brutalisés et commis « de graves violations des droits humains,», a écrit l’organisation. Une image représente une foule de policiers en armure, une autre fonctionnalité un officier avec une tache rouge sur le visage. Une autre image montre un manifestant violemment emmené par la police. Les images, chacune présentant leur propre effacer les artefacts révélateurs des images générées par l’IA ont également une petite note dans le coin inférieur gauche disant : « Des illustrations produites par l’intelligence artificielle.

Les commentateurs ont réagi négativement aux images, beaucoup exprimant un malaise face à l’utilisation par Amensty d’une technologie le plus souvent associé à art bizarre et mèmes pour décrire les violations des droits de l’homme. Amnesty a repoussé, disant à Gizmodo qu’elle avait choisi d’utiliser l’IA pour décrire les événements « sans mettre en danger quiconque était présent ». Amnesty affirme avoir consulté des organisations partenaires à Colombia et a finalement décidé d’utiliser la technologie comme une alternative préservant la vie privée pour montrer les vrais visages des manifestants.

« De nombreuses personnes qui ont participé à la Grève nationale se sont couvert le visage parce qu’elles avaient peur d’être soumises à la répression et à la stigmatisation par les forces de sécurité de l’État », a déclaré un a déclaré le porte-parole d’Amnesty dans un e-mail. « Ceux qui ont montré leur visage sont toujours en danger et certains sont criminalisés par les autorités colombiennes. »

Amnesty a poursuivi en disant que les images générées par l’IA étaient un substitut nécessaire pour illustrer l’événement, car de nombreuses violations des droits de cité se seraient produites sous la couverture des ténèbres après Cololes forces de sécurité mbian ont coupé l’accès à l’électricité. Le porte-parole a déclaré que l’organisation a ajouté l’avertissement au bas de l’image en notant qu’ils ont été créés à l’aide de l’IA dans le but d’éviter d’induire quiconque en erreur.

« Nous pensons que si Amnesty International avait utilisé les vrais visages de ceux qui ont participé aux manifestations, cela les aurait exposés à des représailles », a ajouté le porte-parole.

Les critiques disent que les auteurs d’abus de droits pourraient utiliser des images d’IA pour discréditer des revendications authentiques

Des experts critiques des droits humains s’entretenant avec Gizmodo ont riposté à Amnesty, affirmant que l’utilisation de l’IA générative pourrait créer un précédent troublant et saper davantage la crédibilité des défenseurs des droits humains. Sam Gregory, qui dirige TÉMOINun réseau mondial de défense des droits humains axé sur l’utilisation de la vidéo, a déclaré que les images d’Amnesty AI faisaient plus de mal que de bien.

« Nous avons passé les cinq dernières années à parler à des centaines d’activistes et de journalistes et à d’autres personnes dans le monde qui font déjà face à la délégitimation de leurs images et vidéos sous prétexte qu’elles sont truquées », a déclaré Gregory à Gizmodo. De plus en plus, a déclaré Gregory, les dirigeants autoritaires tentent d’enterrer une séquence audio ou vidéo illustrant une violation des droits de l’homme en prétendant immédiatement qu’elle est falsifiée.

« Cela met toute la pression sur les journalistes et les défenseurs des droits de l’homme pour qu’ils ‘prouver vrai' », Greallerrtu as dit. « Cela peut se produire avantaussi, les gouvernements l’amorçant de sorte que si une séquence compromettante sort, ils peuvent prétendre qu’ils ont dit qu’il y aurait de « fausses images ».

Gregory a reconnu l’importance d’anonymiser les personnes représentées dans les médias des droits de l’homme, mais a déclaré qu’il existe de nombreuses autres façons de présenter efficacement les abus sans recourir à des générateurs d’images d’IA ou « exploiter les cycles de battage médiatique ». Spécialiste des médias et auteur Roland Meyer a accepté et a déclaré que l’utilisation de l’IA par Amnesty pourrait en fait « dévaloriser » le travail effectué par les journalistes et les photographes qui ont abus documentés en Colombie.

Un précédent potentiellement dangereux

Amnesty a dit à Gizmodo que ce n’était pas le cas ont actuellement des politiques pour ou contre l’utilisation d’images générées par l’IA, bien qu’un porte-parole ait déclaré que les dirigeants de l’organisation sont conscient de la possibilité d’une mauvaise utilisation et essayez d’utiliser la technologie avec parcimonie.

« Nous ne l’utilisons actuellement que lorsque cela est dans l’intérêt de la protection des défenseurs des droits de l’homme », a déclaré le porte-parole. « Amnesty International est consciente du risque de désinformation si cet outil est utilisé à mauvais escient.

Gregory a dit toute règle ou politique Amnesty met en œuvre concernant l’utilisation de IA pourrait s’avérer important car il pourrait rapidement créer un précédent que d’autres suivront.

« Il est important de réfléchir au rôle des grandes organisations mondiales de défense des droits de l’homme en termes d’établissement de normes et d’utilisation d’outils de cette manière qui n’ont pas de dommages collatéraux pour les petits groupes locaux qui font face à des pressions beaucoup plus extrêmes et sont ciblés à plusieurs reprises par leurs gouvernements. pour les discréditer, dit Gregory.