La véritable révolution de l’IA sera invisible

Les entreprises technologiques sont vraiment Les gens sont passionnés par l'intelligence artificielle, au point de créer des services et des fonctionnalités inutiles liés à l'IA, juste pour prouver qu'ils font quelque chose avec cette technologie. Sous le marketing fade et les fonctionnalités inutiles, il existe des fonctionnalités d'IA vraiment impressionnantes qui feront une différence dans votre vie quotidienne.

Qualcomm m'a invité cette semaine à son siège social à San Diego, en Californie, pour montrer ses travaux en cours sur la technologie de l'IA. Vous n'avez peut-être pas entendu parler de Qualcomm, mais c'est la société qui construit les chipsets de base pour d'innombrables téléphones et tablettes, des appareils haut de gamme comme le Galaxy S24 Ultra aux modèles économiques comme le Moto G 5G. Les modems de l'entreprise se trouvent dans la plupart des iPhoneet fabrique du matériel de réalité virtuelle et de réalité augmentée pour le Meta Quest et d'autres casques. Plus récemment, Qualcomm a commencé à concevoir des conceptions de systèmes sur puce (SoC) haut de gamme pour les ordinateurs portables Windows, en concurrence directe avec les processeurs d'Intel et d'AMD.

Qualcomm développe un parcelle Qualcomm a développé une gamme complète de matériels et de logiciels d'IA, élaborés à partir de l'expérience de l'entreprise en matière de traitement d'images mobiles et d'autres implémentations antérieures d'apprentissage automatique sur appareil. Les nouveaux chipsets Snapdragon X pour ordinateurs portables PC disposent d'une unité de traitement neuronal (NPU) dédiée aux tâches d'IA sur appareil. Les puces mobiles les plus récentes de l'entreprise, comme le Snapdragon 8s Gen 3, peuvent gérer certains grands modèles de langage (LLM) sans l'aide d'un serveur externe via une connexion Internet. Soyons clairs, Qualcomm n'est pas le seul dans ce cas : les derniers processeurs pour ordinateurs portables d'AMD et d'Intel sont également dotés de NPU, et les GPU Nvidia grand public peuvent également gérer de nombreuses charges de travail d'IA sur appareil.

En dehors du battage médiatique

Je sais ce que tu penses. Vous en avez assez d’entendre toutes les entreprises technologiques parler de l’IA comme si c’était la solution magique à tous les problèmes du monde. Vous en avez assez des fonctionnalités d'IA qui apparaissent dans vos applications préférées. Peut-être êtes-vous un artiste, un écrivain ou un autre créateur qui a entendu Le CTO d'OpenAI déclare que l'IA pourrait tuer certains emplois créatifs qui « n'auraient pas dû exister en premier lieu », et vous êtes prêt à tout réduire en cendres. Je comprends cela, et je suis d’accord que la plupart des implémentations de « l’IA » à l’heure actuelle sont des solutions à la recherche d’un problème ou activement nuisibles.

Sous le non-sens du cycle de battage médiatique autour de l'IA et sous l'enthousiasme des dirigeants à l'idée de remplacer d'innombrables travailleurs par une automatisation moins chère, il y a certains en fait des fonctionnalités utiles qui ne sont devenues possibles qu'avec le matériel récent de Qualcomm, Intel, AMD, NVIDIA et d'autres sociétés.

Cephable, une entreprise qui construit un outil de saisie basé sur une caméra pour les personnes handicapées, a présenté un version mise à jour de son logiciel fonctionnant sur un ordinateur portable Snapdragon X Elite. Il utilise une webcam pour surveiller les mouvements de la tête et les expressions faciales, les traduisant en appuis sur les touches ou autres actions pour les logiciels de bureau (par exemple, tourner la tête pour changer de diapositive dans une présentation PowerPoint). La nouvelle version pour les ordinateurs portables Snapdragon exécute tous les logiciels d'apprentissage automatique sur le NPU dédié, réduisant ainsi l'utilisation de la batterie, améliorant la vitesse et la précision du traitement et libérant des ressources CPU et GPU pour vos autres applications. Une autre démonstration de djay Pro qui pourrait diviser les chansons en plusieurs pistes instrumentales et vocales pour un mixage DJ en temps réel, ce qui n'est pratique qu'avec l'IA sur l'appareil. Le dernière mise à jour de Logic Pro sur Mac et iPad offre des fonctionnalités similaires pour la production audio.

La possibilité d’exécuter de grands modèles linguistiques sur un smartphone, une tablette ou un PC plus classique ouvre la voie à d’autres cas d’utilisation intéressants. Par exemple, la future « Apple Intelligence » sur les iPhone, iPad et Mac utilisera l’IA sur l’appareil pour trier les notifications et mieux comprendre le langage parlé dans Siri. Certaines fonctionnalités sont plus difficiles à créer et à faire évoluer lorsqu’elles nécessitent un centre de données puissant quelque part, et c’est ce que les fabricants de matériel essaient de changer en ce moment.

Il n'existe pas beaucoup d'applications et de services qui utilisent l'IA sur l'appareil à l'heure actuelle, car ils peuvent se comporter différemment selon les appareils et les systèmes d'exploitation, et tout le monde ne dispose pas d'un téléphone ou d'un PC avec la puissance de traitement requise. Les outils de développement plus récents, comme TensorRT-LLM de NVIDIA et Kit de développement logiciel (SDK) AI Engine Direct de Qualcomm, rendent lentement cette partie plus accessible aux développeurs de logiciels. Finalement, l'ajout d'une fonctionnalité nécessitant un LLM puissant ne sera pas beaucoup plus complexe que l'ajout d'une fonctionnalité nécessitant n'importe quelle autre fonction système, et j'espère que c'est à ce moment-là que nous verrons davantage d'applications ajouter des fonctionnalités utiles.

Ces avancées laissent entrevoir un avenir où davantage de fonctionnalités d'IA sur les appareils seront possibles et elles seront implémentées comme n'importe quelle autre fonctionnalité dans vos applications préférées. La tendance des chatbots IA désagréables ou des réponses suggérées par l'IA sur les publications sur les réseaux sociaux finira par disparaître (espérons-le), mais nous conserverons les fonctionnalités qui sont réellement utile. C'est la véritable révolution de l'IA : pas un bouton Copilot géant dans Microsoft Edge, mais vos applications et appareils qui deviennent plus intelligents et accomplissent des tâches spécifiques beaucoup plus rapidement et plus efficacement.

Ce qui est vieux est nouveau

Le mot « IA » a perdu la plupart de son sens au cours des deux dernières années, tout comme le mot « crypto » est devenu dénué de sens au cours des deux dernières années. la dernière bulle des crypto-monnaies. Il peut s'agir de modèles de langage volumineux nécessitant des centres de données coûteux, ou d'algorithmes de traitement d'image utilisés pour prendre une photo sur un smartphone moderne. Il existe également de nombreux appareils compatibles avec l'IA qui utilisent clairement le terme pour désigner la valeur de battage médiatique, comme cuiseurs à riz avec la « technologie de cuisine intelligente basée sur l'IA ».

Le terme « IA » est également souvent utilisé pour décrire les mêmes fonctionnalités que l’on appelait « apprentissage automatique » il y a quelques années, comme la reconnaissance d’objets dans des photos ou la traduction de texte entre différentes langues. Bon nombre de ces fonctionnalités d’apprentissage automatique étaient utiles, comme Google Photos qui permettait de rechercher des personnes ou des animaux spécifiques dans des bibliothèques de photos, ou d’utiliser Google Lens pour déterminer le type d’insecte que vous venez de trouver. La plupart de ces fonctionnalités n’étaient pas aussi désagréables et agressives que de nombreuses fonctionnalités d’IA modernes, et bon nombre de ces fonctionnalités ne nécessitent pas de gros serveurs coûteux.

La véritable révolution de l'IA ne se résumera pas à des pop-ups ou des chatbots agaçants partout, ni à des images générées par l'IA partout sur les réseaux sociaux. Ce sera juste une nouvelle étape dans l'évolution des logiciels qui dure depuis des décennies, rendant vos appareils plus utiles. C'est l'IA qui m'enthousiasme.

Divulgation : Mon voyage à San Diego, en Californie, pour assister à l'atelier AI Analyst & Media a été financé par Qualcomm, y compris le voyage et l'hébergement. Qualcomm n'a pas examiné cet article avant sa publication.