Documents remarqué par l'interception semblent révéler l'ambition du Pentagone de développer un framework d'IA agentique appelé ECHOTRIBBLE, conçu pour « naviguer dans les infrastructures, identifier et neutraliser les menaces. »
À en juger par ces documents, apparemment diffusés par et pour les fournisseurs, le commandement central de l'armée cherche l'aide du secteur privé pour tenter d'armer l'IA, même s'il n'est pas du tout clair qu'il soit encore sorti du projet avec des outils de piratage alimentés par l'IA, et Cybercommand n'a pas répondu à la demande de commentaires d'Intercept.
Comme en témoignent les documents accessibles au public sur ECHOTRIBBLE disponible sur le site du Cyber Fusion Innovation Center (CFIC), une organisation à but non lucratif de défense, le programme n’est pas une initiative top secrète de la DARPA. Selon le CFIC, plus tôt ce mois-ci, il y a eu un « événement d'évaluation entièrement virtuel pour l'initiative Agentic C2 Framework Tool (ECHOTRIBBLE) ». Il a généré 65 livres blancs, dont cinq devaient être transformés en présentations et jugés par ce qu'on appelle l'équipe d'évaluation.
En janvier dernier, le secrétaire à la Défense et à la Guerre, Pete Hegseth, a clairement indiqué qu'il avait quelque chose comme ça en tête. « Nous allons lancer l'expérimentation, éliminer les barrières bureaucratiques, concentrer nos investissements et démontrer l'approche d'exécution nécessaire pour garantir que nous sommes à la pointe de l'IA militaire », a déclaré Hegseth. selon un communiqué de presse du Pentagone. Il a ajouté : « Nous deviendrons une force de guerre « axée sur l’IA » dans tous les domaines. »
Sam Biddle de The Intercept décrit la vision apparente de l'ECHOTRIBBLE encore naissant comme quelque chose « presque comme un ver informatique, naviguant silencieusement sur un réseau étranger et passant d'un appareil à l'autre jusqu'à ce qu'il trouve la proie de l'armée, frappant des cibles dans le cloud ainsi que celles sur des systèmes « à air isolé » qui sont entièrement déconnectés des réseaux.
Même les agents d’IA d’aujourd’hui sont capables de travailler en essaims coordonnés pour effectuer ce qui est essentiellement du piratage, même si heureusement, des cas comme l’incident de Hugging Face n’ont pas causé de dégâts majeurs. Dans l’ensemble, la leçon tirée des histoires de sécurité de l’IA de l’été dernier est que les agents d’IA dotés de capacités de piratage n’agissent pas toujours pour des raisons immédiatement lisibles pour les spectateurs humains. Les « agents voyous » ressemblent davantage à des systèmes complexes qui se déclenchent de manière imprévisible qu'à des Terminators se réveillant avec une soif de sang humain.
Mais c'est aussi assez effrayant. Comme l'a déclaré David Krueger, professeur d'apprentissage automatique à l'Université de Montréal, à Intercept : « Étant donné les modes de défaillance connus du paradigme actuel de l'IA, créer des systèmes d'IA autonomes avec pour mandat de « neutraliser les menaces » est incroyablement dangereux. »
Vous pouvez lire l’article original (en Angais) sur le sitegizmodo.com