Ollama est l'application open source qui a enfin rendu l'IA locale gratuite utile sur mon PC

J'ai récemment écrit sur l'achat d'un mini-PC pour moins de 300 $ et son utilisation pour exécuter un LLM local. Je m’attendais à ce que ce processus soit intéressant, mais je m’attendais aussi à ce qu’il paraisse un peu brutal sur les bords. L’IA locale a toujours semblé utile en théorie, mais elle transportait également beaucoup de bagages. Vous deviez réfléchir à la configuration système requise, à la taille des modèles, aux outils de ligne de commande et à la question de savoir si votre ordinateur était réellement suffisamment puissant pour faire quelque chose de significatif.

Ce qui m'a surpris, c'est à quel point c'était devenu accessible. Je ne construisais pas de serveur, ne mettais pas en place un environnement de développement ou ne transformais pas mon PC en une station de travail d'IA compliquée. J'installais une application, je choisissais un modèle et j'utilisais un LLM local pour les tâches normales. Cela a changé ma façon de penser à l’ensemble de la catégorie. Si vous disposez d’un ordinateur décent et que vous êtes à l’aise pour installer des logiciels de bureau classiques, l’IA locale n’est plus quelque chose que vous devez admirer de loin. C'est quelque chose que vous pouvez réellement utiliser.

Je n'ai même pas eu besoin de la ligne de commande pour installer les modèles

Ollama a fait en sorte que l'ajout d'un LLM local donne l'impression d'installer n'importe quelle autre application

Ce qui m'a vraiment surpris, c'est le peu de configuration impliquée. Je me suis lancé dans cette démarche en m'attendant à au moins une certaine quantité de travail en ligne de commande, car c'est généralement là que l'IA locale commence à perdre des utilisateurs réguliers. Sous Windows, cela signifiait ouvrir PowerShell, coller une commande et espérer ne manquer aucune étape. En fait, c'est exactement comme ça que j'ai commencé. J'ai d'abord installé Gemma 3 via PowerShell parce que je pensais que cela faisait simplement partie du processus.

Puis j'ai réalisé qu'Ollama me permettait déjà d'installer des modèles directement depuis sa propre interface. C’est à ce moment-là que cela a cessé de ressembler à une expérience de développeur et a commencé à ressembler à un logiciel PC normal. Je ne cherchais pas dans la documentation, ne copiais pas les commandes d'un guide de configuration ou ne me demandais pas si j'avais fait quelque chose de mal. Je pourrais ouvrir l'application, choisir un modèle et commencer. C'est un grand changement. Si vous savez comment installer un programme et cliquer sur l’interface d’une application de base, l’IA locale n’est plus hors de portée.

Choisir le bon modèle comptait plus que ce à quoi je m'attendais

Mon PC pouvait exécuter une IA locale, mais tous les modèles n'avaient pas de sens

Installation d'Ollama C'était la partie la plus facile. Choisir le bon modèle a demandé un peu plus de travail. Mon mini-PC n'a pas de GPU dédié, je ne pouvais donc pas simplement prendre le plus gros modèle que j'ai vu et m'attendre à ce qu'il fonctionne bien. C’est la partie du processus qui m’a semblé la plus compliquée, car je devais faire correspondre le modèle au matériel que j’avais réellement, et non au matériel que j’aurais aimé avoir.

Cela signifiait faire des recherches, essayer quelques options et prêter attention à la sensation de chaque modèle en utilisation réelle. Certains modèles étaient trop lents pour être pratiques, tandis que d’autres étaient mieux adaptés à ma configuration. Après avoir testé quelques modèles, j'ai finalement opté pour le Gemma 3:12B comme celui qui avait le plus de sens pour ce mini-PC. C'était une leçon importante. L’IA locale est beaucoup plus accessible qu’avant, mais le modèle compte toujours. La bonne solution peut rendre toute l’expérience pratique, tandis que la mauvaise peut donner l’impression que l’IA locale est une corvée.

J'ai également vérifié les performances signalées par Ollama, car « utilisable » peut signifier différentes choses selon le matériel. Avec Gemma 3:12B fonctionnant sur mon mini-PC sans GPU dédié, Ollama a signalé un taux d'évaluation rapide de 31,78 jetons par seconde et un taux d'évaluation de 7,1 jetons par seconde. En anglais simple, il pouvait traiter mon invite assez rapidement, mais il générait la réponse à un rythme beaucoup plus modeste. Cela était toujours utilisable pour les plans, les résumés, les notes et l'aide à la rédaction de base, mais cela ne semblait pas aussi rapide que l'utilisation d'un chatbot basé sur le cloud.

Je l'ai utilisé pour du vrai travail, pas seulement pour des démonstrations d'IA

Ollama est devenu utile une fois que je lui ai confié des tâches PC ordinaires

Crédit: Ollama

Une fois que j'ai exécuté le bon modèle, j'ai arrêté de considérer Ollama comme quelque chose que je testais et j'ai commencé à l'utiliser comme un autre outil sur mon PC. C’était le véritable changement. Ce n'était pas seulement là pour que je puisse lui poser des questions pièges ou voir si un mini-PC bon marché pouvait techniquement exécuter l'IA. J'ai commencé à l'utiliser pour le genre de petites tâches quotidiennes où je pourrais normalement ouvrir ChatGPT sans trop y penser.

Cela comprenait des choses comme travailler sur des idées approximatives, nettoyer des notes, résumer du texte, comparer des options et m'aider à réfléchir aux grandes lignes avant de les transformer en quelque chose de plus raffiné. Ce n'était pas toujours aussi rapide ni aussi raffiné qu'un chatbot basé sur le cloud, mais ce n'était pas nécessaire. Pour de nombreux travaux pratiques à faibles enjeux, c’était suffisant pour être utile. Plus important encore, il fonctionnait localement, donc je n'avais pas à me demander si chaque idée à moitié formée, note privée ou première ébauche devait vraiment quitter mon ordinateur.

Les chatbots cloud ont encore le dessus à certains endroits

L'IA locale est utile, mais elle ne remplace pas tout

Ollama a changé ma façon de voir l'IA locale, mais cela ne m'a pas fait abandonner ChatGPT, Claude ou Gemini. Les chatbots basés sur le cloud sont encore meilleurs lorsque j'ai besoin de réponses plus rapides, d'informations actuelles, d'un raisonnement plus solide ou de fonctionnalités allant au-delà du texte de base. Cela ne rend pas l’IA locale moins utile. Cela lui donne simplement un travail différent. Ollama n'a pas besoin de battre les plus grands modèles de cloud en tout. Il doit simplement être suffisamment performant pour les tâches quotidiennes où la confidentialité, le contrôle et la commodité sont plus importants.

• 

  Qu'est-ce qui est inclus ?

  Conversations illimitées, vitesse de réponse plus rapide, accès prioritaire et bien plus encore

  Marque

  ChatGPT

  L'assistance basée sur l'IA de ChatGPT s'améliore encore avec un abonnement payant ; Le niveau Plus offre des fonctionnalités améliorées, notamment des conversations illimitées, une vitesse de réponse plus rapide, un accès prioritaire, etc.

  
  

Ollama a permis à l'IA locale de se sentir prête pour les utilisateurs réguliers de PC

Ollama n’a pas rendu l’IA locale parfaite, et je ne m’y attendais pas. Certains modèles sont encore plus rapides que d’autres, et choisir le bon modèle pour votre matériel nécessite encore quelques recherches. Ollama n'est pas non plus la seule application à tenter de faciliter l'IA locale. Studio LM est une autre option populaire, surtout si vous souhaitez une interface de style bureau plus traditionnelle.

Mais c’est Ollama qui a fait en sorte que le processus se déclenche pour moi. Cela a transformé l’IA locale en quelque chose qui semblait accessible sur un PC ordinaire. Je pourrais installer une application, choisir un modèle et commencer à l'utiliser pour des tâches réelles sans transformer le tout en un projet de week-end. Pour tous ceux qui sont curieux de connaître l’IA locale mais pensent qu’elle est trop technique, c’est là la véritable avancée. Ollama a donné l'impression que les LLM locaux quittent enfin le coin des développeurs pour s'installer sur les ordinateurs de tous les jours.