Les responsables techniques militaires disent que la pause de l’IA est « presque impossible »

Cadres et experts de la technologie militaire s’exprimant devant le Commission sénatoriale des forces armées mercredi a dit appels croissants à une « pause » sur les nouveaux systèmes d’intelligence artificielle étaient erronées et semblaient « presque impossibles » à mettre en œuvre. Les experts, qui ont parlé au nom de deux sociétés de technologie militaire et ont raconté entrepreneur de la défense la Rand Corporation, a déclaré que les fabricants chinois d’IA n’adhéreraient probablement pas à une pause et capitaliseraient plutôt sur une accalmie du développement pour usurper les États-Unis chef de file actuel de l’IA internationale course. Le monde est à un « point d’inflexion » de l’IA, a déclaré un expert, et il est temps d’appuyer sur l’accélérateur pour « terrifier nos adversaires ».

« Je pense qu’il serait très difficile de négocier un accord international pour faire une pause dans le développement de l’IA qui serait réellement vérifiable », a déclaré Jason Matheny, président et chef de la direction de Rand Corporation. l’audience du Sénat mercredi. Shyam Sankar, le CTO de la société fondée par Peter Thiel société d’analyse Palantir, d’accord, affirmant qu’une pause dans le développement de l’IA aux États-Unis pourrait ouvrir la voie à la Chine pour établir les normes internationales concernant l’utilisation et le développement de l’IA. Si cela se produit, Sankar a dit qu’il craignait Les récentes directives réglementaires de la Chine interdire aux modèles d’IA de diffuser des contenus critiques à l’égard du gouvernement pourrait potentiellement se propager à d’autres pays.

« Dans la mesure où ces normes deviennent les normes pour le monde, c’est très problématique », a déclaré Sankar. « Une IA démocratique est cruciale. »

« Nous devons consacrer au moins 5 % de notre budget à des capacités qui terrifieront nos adversaires »

Ces avertissements dramatiques surviennent un mois seulement après que des centaines d’éminents experts en IA ont envoyé un lettre ouverte très lue appelant les laboratoires d’IA à imposer une suspension immédiate de sixmois pause sur la formation tous les systèmes d’IA plus puissants qu’OpenAI a récemment publié GPT-4. Avant cela, les organisations de défense des droits de l’homme ont passé des années préconiser des traités contraignants ou d’autres mesures visant à restreindre le développement d’armes autonomes. Les experts s’exprimant devant la commission des forces armées du Sénat ont convenu qu’il était primordial pour les États-Unis de mettre en œuvre des réglementations intelligentes guidant le développement de l’IA, mais ont averti qu’une pause complète ferait plus de mal que de bien au ministère de la Défense, qui a historiquement lutté pour garder une longueur d’avance sur les innovations de l’IA.

Sankar, qui a critiqué l’approche relativement prudente de l’armée lorsqu’il s’agit d’adopter de nouvelles technologies, a déclaré aux législateurs qu’il était actuellement plus facile pour son entreprise d’apporter des outils d’IA avancés au géant bancaire AIG qu’à l’armée ou à l’armée de l’air. Le CTO de Palantir a opposé cette adoption lente à l’armée ukrainienne, qui, selon lui, a appris à se procurer de nouveaux logiciels en quelques jours ou quelques semaines afin de combattre les forces russes envahissantes. Le PDG de Palantir, Alex Karp, a précédemment déclaré que son entreprise offert des services à l’armée ukrainienne.

Sans surpriseSankar a déclaré qu’il aimerait voir le DoD dépenser encore plus de son budget colossal de 768 milliards de dollars sur des solutions technologiques comme celles proposées par Palantir.

« Si nous voulons dissuader efficacement ceux qui menacent les intérêts américains, nous devons consacrer au moins 5% de notre budget à des capacités qui terrifieront nos adversaires », a déclaré Sankar aux législateurs.

D’autres, comme le co-fondateur et PDG de Shift5, Josh Lospinoso, ont déclaré que l’armée manquait des opportunités d’utiliser des données déjà créées par son armada de navires, de chars, de bateaux et d’avions. Ces données, a déclaré Lospinoso, pourraient être utilisées pour former de nouveaux systèmes d’IA puissants qui pourraient donner à l’armée américaine un avantage et renforcer ses défenses en matière de cybersécurité. Au lieu de cela, la majeure partie « s’évapore immédiatement dans l’éther ».

« Ces machines parlent, mais le DoD est incapable de les entendre », a déclaré Lospinoso, « les systèmes d’armes américains ne sont tout simplement pas prêts pour l’IA. »

Les experts sont aigris sur l’IA open source, mais ils sont ouverts à « l’empoisonnement des données » IA chinoise

Le maintien de l’avantage concurrentiel de l’armée peut également reposer sur la consolidation des données générées par les entreprises technologiques privées américaines. Matheny a critiqué les entreprises d’IA ouvertes et a souhaité que la poursuite bien intentionnée de la libre circulation des informations puisse par inadvertance finir par aider les systèmes d’IA militaires dans d’autres pays. De même, d’autres outils d’IA considérés comme « inoffensifs » par les entreprises technologiques américaines pourraient être utilisés à mauvais escient par d’autres. Matheny a déclaré que les outils d’IA au-dessus d’un certain seuil non spécifié devraient probablement être autorisés à être vendus à des gouvernements étrangers et devraient avoir des garde-fous installés dans le palais avant d’être rendus publics.

Dans certains cas, les experts ont déclaré que l’armée américaine devrait envisager d’aller plus loin et de s’engager dans des actions offensives pour limiter la capacité d’une armée étrangère à développer des systèmes d’IA supérieurs. Alors que ces actions offensives pourraient ressembler à des restrictions commerciales ou à des sanctions sur les équipements de haute technologie, ont déclaré Lospinoso et Matheny. les États-Unis pourraient également envisager d’aller plus loin en « empoisonnant » les données d’un adversaire. Manipuler ou corrompre intentionnellement des ensembles de données utilisés pour former des modèles d’IA militaires, du moins en théorie, pourrait acheter le Pentagone plus de temps pour construire le sien.

Vous voulez en savoir plus sur l’IA, les chatbots et l’avenir de l’apprentissage automatique ? Découvrez notre couverture complète de intelligence artificielleou parcourez nos guides pour Les meilleurs générateurs d’art AI gratuits et Tout ce que nous savons sur le ChatGPT d’OpenAI.