La National Security Agency (NSA), la Cybersecurity and Infrastructure Security Agency (CISA) des États-Unis et le FBI ont tous publié un rapport. déclaration mardi accusant les sociétés d’IA basées en Chine de « campagnes de distillation à l’échelle industrielle contre les sociétés américaines d’IA ».
« Probablement avec la prise de conscience du gouvernement chinois, DeepSeek, Moonshot AI, Alibaba, MiniMax, StepFun et Z.AI ont extrait des milliards de jetons sur des millions d'échanges/demandes de modèles d'IA frontaliers américains, y compris des variantes de Claude, GPT, Gemini et Grok, depuis au moins fin 2024 », affirme le communiqué. Il qualifie ces efforts de « agressifs, malveillants et ciblés ».
Le moment correspond à une grande rencontre d’esprit entre les États-Unis et la Chine qui se produira bientôt. Reuters a rapporté la semaine dernière que ce mois-ci, le secrétaire au Trésor, Scott Bessent, rencontrerait des responsables chinois pour des discussions sur la sécurité de l'IA.
La distillation est une technique légitime et largement acceptée dans le développement de l’IA. En distillation, un modèle « enseignant » plus puissant peut conférer la capacité de générer des résultats plus utiles et plus précis à un modèle « étudiant » plus petit, ce qui donne un modèle compressé mais efficace. Mais les laboratoires d’IA de pointe aiment historiquement Anthropic aller très loin pour empêcher la distillation de leurs modèles par d’autres laboratoires. « Les modèles distillés illicitement manquent des garanties nécessaires, ce qui crée des risques importants pour la sécurité nationale », écrit Anthropic.
L'année dernière, OpenAI était à l'avant-garde de la lutte contre la distillation, déclarant à un moment donné au Financial Times qu'elle avait rassemblé ses propres preuves que la société DeepSeek, basée en Chine, avait effectué une distillation contre son gré. Mais dans ses déclarations les plus récentes sur la distillation, le PDG d'OpenAI, Sam Altman, a commencé à paraître moins inquiet que ne le suggérait le comportement passé de son entreprise. « Je préférerais que les gens ne distillent pas de notre vin, c'est sûr. Mais cela ne fait pas partie de ma liste de dix préoccupations principales », a-t-il déclaré dans un communiqué. Entretien de juillet.
Voyager mentalement dans le temps vers un passé poussiéreux et oublié d’il y a deux ans est un exercice fascinant dans ce contexte. En composant votre DeLorean jusqu'en 2024, le summum du discours sur la « machine à plagiat », vous constaterez qu'OpenAI a soumis un témoignage au Parlement britannique disant : « Parce que le droit d'auteur couvre aujourd'hui pratiquement tous les types d'expression humaine, y compris les articles de blog, les photographies, les messages de forum, les fragments de code de logiciel et les documents gouvernementaux, il serait impossible de former les principaux modèles d'IA d'aujourd'hui sans utiliser du matériel protégé par le droit d'auteur. »
Vous pouvez lire l’article original (en Angais) sur le bloggizmodo.com