Facebook et Instagram offrent un aperçu de la boîte noire du classement de l’IA

Meta publie une série de nouveaux outils et informations offrant aux utilisateurs quotidiens l’un des regards les plus clairs encore dans la façon dont divers systèmes d’IA servent et recommandent des choses sur Facebook et Instagram. Les utilisateurs peuvent désormais lire 22 « cartes système » différentes qui fournissent plus de clarté sur les types de systèmes d’IA utilisés dans différentes sections des applications et les types de données utilisateur sur lesquelles ils s’appuient pour fonctionner. Les cartes système étendues offrent au grand public certaines des meilleures un aperçu à ce jour du fonctionnement des modèles de Meta et fait suite à des années de critiques de la part de chercheurs et de défenseurs qui ont critiqué l’engagement de l’entreprise en matière de transparence.

Les cartes système dévoilées jeudi et partagées avec Gizmodo offrent des détails granulaires sur la façon dont les systèmes d’intelligence artificielle diffusent du contenu via une grande variété de méta-services, du flux et du marché de Facebook aux histoires et exploration d’Instagram et plus d’une douzaine entre les deux. Chacune de ces cartes est composée de quatre sections qui donnent un aperçu du système d’IA utilisé, un résumé du fonctionnement du système d’IA, une section sur les commandes personnalisables disponibles pour les utilisateurs et une autre section fournissant plus de détails sur le système d’IA utilisé fournit finalement du contenu.

Chacune des fiches d’évaluation fournit des exemples des types spécifiques de « signaux » sur lesquels elle s’appuie. Les signaux ici peuvent faire référence à des éléments d’information que Meta apprend sur les utilisations lorsqu’ils interagissent avec des applications telles que aimer, commenter ou partager du contenu. Il peut également faire référence aux signaux que Meta déduit en fonction des manières précédentes dont un utilisateur a interagi avec une application. Chaque système de classement mesure ces signaux, puis crée un « score de pertinence » pour chaque publication et place les publications dans l’ordre de ce score.

Bien que certaines des complexités spécifiques mentionnées dans certaines cartes système semblent se chevaucher avec d’autres, il existe de nombreuses différences notables, souvent subtiles, qui offrent aux utilisateurs une idée plus claire de la raison pour laquelle les expériences sur certains segments d’une application peuvent sembler différentes des autres. La carte du système Instagram Feed, par exemple, note que le signal « la probabilité que vous passiez peu de temps à regarder un message et à ne pas interagir avec lui » est l’un des nombreux indicateurs utilisés pour déterminer comment le contenu est servi à un utilisateur. C’est similaire mais légèrement différent du Flux Facebook Tableau de bord qui utilise le signal « quelle est la probabilité que vous fassiez défiler un message plutôt que de vous y engager ».

« Avec les progrès rapides réalisés avec des technologies puissantes comme l’IA générative, il est compréhensible que les gens soient à la fois enthousiasmés par les possibilités et préoccupés par les risques », a déclaré Nick Clegg, président des affaires mondiales de Meta, dans un communiqué. « Nous pensons que la meilleure façon de répondre à ces préoccupations est de faire preuve d’ouverture. »

La stratégie des cartes système de Meta fait partie d’un effort plus large de Meta pour clarifier le fonctionnement de ses systèmes et repousser les préoccupations généralisées de certains utilisateurs concernant «l’algorithme». Dans les documents partagés avec Gizmodo, Meta dit qu’il n’y a pas un seul algorithme qui dicte la façon dont les utilisateurs reçoivent du contenu sur Facebook et Instagram. Au lieu de cela, il existe de nombreux systèmes différents qui fonctionnent indépendamment et parfois ensemble.

Dans un article de blog, Clegg a déclaré que les cartes sont une tentative «d’expliquer des informations hautement techniques» d’une manière que les utilisateurs ordinaires peuvent comprendre. Le cadrage et l’accent mis sur ces cartes auraient été influencés par des discussions avec un groupe diversifié d’experts et par la prise en compte des commentaires de la communauté. Ironiquement, Meta a déclaré qu’il essayait d’éviter de fournir trop de détails techniques après avoir entendu des inquiétudes selon lesquelles des monticules de données difficiles à analyser peuvent en fait avoir l’effet inverse et « obscurcir la transparence ».

Meta permet aux chercheurs d’accéder à une multitude de données d’utilisateurs publics

En plus des cartes système, Meta a annoncé qu’il prévoyait également de commencer à déployer de nouveaux outils pour les chercheurs dans les semaines à venir sous la «bibliothèque de contenu et API de Meta» interdite. Cette bibliothèque de données comprendra des publications publiques, des pages, des groupes et des événements sur Facebook ainsi que des publications publiques et des données de créateurs et de comptes professionnels sur Instagram. Les chercheurs d’établissements universitaires et de recherche agréés poursuivant des sujets de recherche scientifique ou d’intérêt public pourront demander l’accès. Si cela est accordé, les chercheurs peuvent rechercher dans les données et les filtrer sur une interface utilisateur graphique.

« Ces outils fourniront l’accès le plus complet au contenu accessible au public sur Facebook et Instagram de tous les outils de recherche que nous avons construits à ce jour et nous aideront également à respecter les nouvelles obligations de partage de données et de transparence. » Clegg a ajouté.