J'en ai marre que les sociétés d'IA qualifient leurs modèles d'open source alors qu'ils ne le sont pas.

Je continue de rencontrer la même habitude ennuyeuse lorsqu'une entreprise annonce un nouveau modèle, l'appelle open source et que les développeurs applaudissent. Ensuite, quelqu'un lit la licence et trouve un tas de conditions que personne n'a mentionnées dans le communiqué de presse et qui sont à l'opposé de l'open source. L’open source a une histoire assez claire, mais l’IA l’a rendue vraiment floue.

Autrefois, open source signifiait quelque chose de clair

L'IA n'a pas écrit les règles originales

Christine Peterson a inventé le terme open source en février 1998. C'était juste après que Netscape ait choisi de rendre public le code source de son navigateur Web.

Bruce Perens voulait que le monde du logiciel ait un critère juridique clair, c'est pourquoi il s'est emparé des directives du logiciel libre Debian qu'il avait écrites l'année précédente et les a retravaillées dans le Définition open source. L'Open Source Initiative récemment créée a pris le relais et a défini dix règles qui permettent aux utilisateurs de redistribuer librement le logiciel, de voir tout le code source, de créer leurs propres versions et de l'utiliser comme ils le souhaitent sans que personne ne soit refusé.

Je me souviens avoir entendu parler de développeurs qui essayaient de gagner sur deux tableaux, comme Licence source communautaire de Sun ou Initiative de sources partagées de Microsoftmais l'approche OSI semblait être la meilleure solution. Ces licences imposaient des limites à l'utilisation commerciale ou exigeaient des redevances, ce qui violait les libertés fondamentales sur lesquelles reposait la définition. La Free Software Foundation a ressenti la même chose et a écrit la GPLv3 spécifiquement pour empêcher les fabricants de verrouiller les logiciels modifiés hors des appareils sur lesquels ils s'exécutaient, ce qui constitue un autre problème pour l'open source.

Les logiciels classiques sont écrits par des personnes qui élaborent des instructions claires, mais l'IA détecte des modèles à partir d'énormes piles de données d'entraînement, et ce qui ressort à l'autre bout est un ensemble de poids statistiques, pas un code que vous pouvez lire. Lorsque les sociétés d’IA publient des modèles, elles partagent généralement uniquement ces pondérations ainsi qu’un code de base pour exécuter le modèle.

Les véritables données de formation, les pipelines qui les ont nettoyées et filtrées, les décisions de configuration et ce qui s'est passé à l'intérieur pendant la formation restent secrets. En plus de cela, de nombreuses versions sont accompagnées de licences personnalisées qui limitent l'utilisation commerciale ou restreignent des applications particulières. Ce que les développeurs obtiennent en réalité, c'est essentiellement une boîte noire qu'ils peuvent exécuter mais qu'ils ne peuvent pas auditer entièrement. Il ne peut pas être reconstruit à partir de zéro, et on ne peut pas vraiment voir comment tout cela s’est réalisé.

Utiliser l'open source pour étendre le terme bien au-delà de tout ce qu'il signifiait auparavant.

Les grosses versions n'ont pas réussi le test

Le marketing d’entreprise ne suffit pas à édulcorer l’IA open source. La communauté open source l’a aidé, à mon avis. Au fil des années, de grands développeurs, mainteneurs, fondations et plates-formes ont soutenu le cadrage ouvert et l'ont diffusé sans jamais se demander s'il répondait à un véritable standard open source.

Le plus gros problème est qu'il est difficile de s'entendre sur ce que signifie open source, puisque le terme repose principalement sur les convictions de la communauté et sur la révision des licences, et non sur des batailles judiciaires. Il n’y avait rien à imposer lorsque les géants de la technologie ont commencé à qualifier leurs licences de modèles propriétaires d’open source.

Personne n’a réagi à mesure que l’IA prenait de l’ampleur, de sorte que les acteurs commerciaux ont pu emprunter la confiance que le mouvement open source a passé des décennies à bâtir tout en glissant discrètement des conditions restrictives dans leurs conditions de distribution. Cela ne me semble pas open source, mais c'est difficile à défaire maintenant.

La vérification des accords de licence réels met en évidence l’écart. Lorsque Meta a publié Llama 2 sous une licence personnalisée avec des limites d'utilisateurs commerciaux, lorsque xAI a publié les poids de Grok-1 sous Apache 2.0 et lorsque Microsoft a publié Phi-2 sous MIT, cela ressemblait à une victoire pour l'IA open source, bien que les licences différaient par leur degré d'ouverture. Mais les petits caractères disaient autre chose. La licence communautaire Llama de Meta, par exemple, oblige toute entreprise comptant plus de 700 millions d'utilisateurs actifs par mois à obtenir une licence commerciale distincte, ce qui entre directement en conflit avec la licence communautaire Llama de Meta. Définitions Open Source des règles sur la libre redistribution et la non-discrimination.

De nombreuses autres versions ont été utilisées de manière acceptable politiques interdisant le déploiement dans des domaines tels que l'application de la loi ou la notation de crédit, ou l'interdiction de l'utilisation des résultats du modèle pour former des systèmes concurrents. Ces limites peuvent avoir du sens du point de vue de la sécurité, mais elles enfreignent la règle selon laquelle n’importe qui peut les utiliser pour n’importe quoi.

Lorsque l’OSI a officiellement examiné des modèles comme Llama 2, Grok, Phi-2 et Mixtral, aucun d’entre eux n’a été retenu. Les seuls qui l'ont fait étaient des projets totalement transparents comme Pythia d'EleutherAI, OLMo d'AI2 et Amber de LLM360.

Les plateformes et les institutions qui distribuent des modèles d’IA portent également une part de responsabilité. Hugging Face regroupait les versions conformes à l'OSI avec les versions propriétaires et ceux disponibles à la source sous les mêmes balises et filtres open source. Au lieu de séparer les modèles véritablement ouverts des modèles restreints, la plate-forme a opté pour une recherche facile et pour attirer davantage de personnes.

Une définition stricte a ses propres problèmes

Les poids ouverts valent toujours quelque chose

Exiger la publication complète des données de formation pour le statut open source n'est pas aussi simple qu'il y paraît. Les ensembles de données de formation pour les grands modèles proviennent d'énormes parties d'Internet et peuvent être accompagnés de matériel protégé par le droit d'auteur, qui a déjà été publié. a causé de réels problèmes juridiques. Les modèles formés sur les données médicales ou financières obtiennent des informations personnelles protégées par la loi comme le RGPDoù la redistribution publique de ces données est tout simplement illégale.

Certaines données de formation sont couvertes par des règles culturelles, comme les licences protégeant Données maories en Nouvelle-Zélandequi limitent le partage par respect pour le contrôle de la communauté sur ses propres données. Une exigence stricte de divulguer chaque bit de données de formation pousserait l’IA open source dans une voie étroite de texte du domaine public, l’excluant ainsi de domaines comme la santé.

Il existe également un véritable argument pratique en faveur de la publication de pondérations ouvertes, même lorsqu'elles ne sont pas entièrement open source. La publication des pondérations des modèles permet aux développeurs d'exécuter des modèles sur leurs propres machines, de les affiner, de les accélérer et de vérifier s'ils présentent des problèmes de sécurité.

C'est un grand pas en avant par rapport à un monde où tout est une API fermée gérée par une poignée d'entreprises. Exiger la conformité des manuels open source comme seule norme acceptable signifie que vous pousserez les projets d’IA à être complètement clos.

Il n'y a pas de réponse facile pour l'open source

Je n'ai pas de solution propre à proposer. Une définition stricte protège le sens du terme, mais elle peut également exclure les modèles formés sur des données privées ou culturellement protégées, et cela représente un coût horrible. Je n'aime pas non plus les étiquettes lâches, car elles permettent aux entreprises d'emprunter une confiance qu'elles n'ont pas gagnée. La plupart des versions se situeront quelque part au milieu, et c'est bien tant que les gens le disent clairement. Si vous choisissez un modèle sur lequel vous appuyer, lisez la licence avant de lire l'annonce. Cela prend dix minutes et peut vous épargner des mois de retouches.