OpenAI a annoncé vendredi avoir détecté une « opération d’influence iranienne » utilisant ChatGPT. Le groupe, connu sous le nom de Storm-1679, a généré des articles et des commentaires sur les réseaux sociaux pour façonner l’opinion publique autour de la vice-présidente Kamala Harris et de l’ancien président Donald Trump, selon OpenAIEn plus de cibler les candidats à la présidentielle américaine de 2024, OpenAI a déclaré que Storm-1679 a également généré du contenu autour de l'invasion de Gaza par Israël et de sa présence aux Jeux olympiques de 2024, des droits des communautés latinos basées aux États-Unis, de la politique vénézuélienne et de l'indépendance de l'Écosse par rapport au Royaume-Uni.
La plupart des publications et articles repérés par OpenAI ont reçu peu d'attention de la part de personnes réelles, a déclaré la société. a décrit l'incident en détail sur son blogécrivant qu'il a trouvé une douzaine de comptes X (anciennement Twitter) se faisant passer pour conservateurs et progressistes et utilisant des hashtags tels que « #DumpTrump » et « #DumpKamala ». Storm-1679 a également exploité au moins un compte Instagram pour diffuser du contenu généré par l'IA, selon OpenAI.
OpenAI a précédemment décrit «acteurs de la menace affiliés à l’État » en utilisant ses outils, mais c'est la première fois qu'il divulgue une campagne d'interférence électorale spécifique utilisant ChatGPT.
OpenAI a déclaré avoir réagi à cette découverte en bannissant un « groupe » de comptes qui ont créé le contenu ; la société a également déclaré avoir « partagé des renseignements sur les menaces avec le gouvernement, les campagnes et les parties prenantes de l'industrie ». L'entreprise n'a pas nommé spécifiquement ces parties prenantes, mais a partagé des captures d'écran de quelques-unes des publications. Ces captures d'écran présentaient des nombres de vues allant de 8 à 207 vues et pratiquement aucun « j'aime ».
OpenAI a déclaré que Storm-1679 avait également partagé des articles générés par ChatGPT sur plusieurs sites Web qui « se présentaient comme des médias d’information à la fois progressistes et conservateurs ». L’entreprise a ajouté : « La majorité des publications sur les réseaux sociaux que nous avons identifiées ont reçu peu ou pas de mentions « j’aime », de partages ou de commentaires. Nous n’avons pas non plus trouvé d’indications selon lesquelles les articles Web étaient partagés sur les réseaux sociaux. »
Un Rapport du 6 août Microsoft a décrit Storm-2035 de manière similaire, comme un réseau iranien avec « quatre sites Web se faisant passer pour des organes de presse ». Selon Microsoft, le réseau a créé des messages « polarisants » sur les élections, les droits LGBTQIA+, ainsi que l'invasion de Gaza par Israël.
Les rapports d’ingérence étrangère en ligne dans les élections américaines sont désormais pratiquement monnaie courante. Le rapport du 6 août de Microsoft, par exemple, détaillait également une attaque de phishing liée à l’Iran qui ciblait un responsable de campagne américain « de haut rang » dont le nom n’a pas été dévoilé. Peu après que Microsoft ait publié le rapport, la campagne Trump a annoncé que des « sources étrangères » avaient volé certains de ses e-mails et documents dans le but d’influencer l’élection présidentielle de 2024. Huit ans plus tôt, un groupe de pirates informatiques lié à la Russie connu sous le nom de Guccifer 2.0 s’était emparé des e-mails du Comité national démocrate par le biais d’un procédé similaire. attaque de phishing; ils ont finalement divulgué des milliers d'e-mails et de documents du DNC avant la Convention nationale démocrate de 2016.
Sous la pression des législateurs, les grandes entreprises technologiques ont lancé diverses initiatives au fil des ans en réponse à de tels incidents. Parmi leurs mesures, on compte la vérification des faits sur les mèmes, la prise de vœux pieux, une interdiction temporaire des publicités politiques, une « cellule de crise » et des collaborations avec des rivaux et des policiers.
Vous pouvez lire l’article original (en Angais) sur le sitegizmodo.com