J'ai arrêté de télécharger des documents privés sur AI, cette application gratuite les gère sur mon PC

Je ne sais pas pour vous, mais j'ai plus de factures, de factures, de relevés bancaires et de documents de santé que je ne sais quoi en faire. Trouver un détail spécifique, comprendre un terme compliqué ou comparer les frais de ce mois-ci avec ceux du mois dernier peut prendre plus de temps que je ne le souhaiterais, sans parler de la frustration que cela implique. Des outils comme ChatGPT et Claude peuvent rendre cela beaucoup plus facile, mais je ne suis pas particulièrement à l'aise avec l'idée de transmettre mes informations financières, médicales ou autres informations sensibles à de grandes entreprises technologiques juste pour obtenir des réponses à quelques questions. Je suis suffisamment préoccupé par la quantité de données que ces entreprises collectent sans leur en donner volontairement davantage.

On ne peut nier la commodité de l’IA, mais je veux en profiter sans renoncer au contrôle de mes informations privées. C'est pourquoi j'utilise l'IA locale pour analyser les documents et répondre aux questions directement sur mon propre mini PC. Avec Ollama et un modèle Qwen téléchargé localement (Qwen2.5:7B), je peux joindre des documents, poser des questions et obtenir des résumés utiles sans envoyer leur contenu à un fournisseur d'IA cloud. Et je n’ai pas besoin d’un poste de travail IA coûteux pour le faire. Tout fonctionne sur mon mini PC doté d'un processeur AMD Ryzen 5 et de 32 Go de RAM.

Ollama rend l'analyse des fichiers privés étonnamment simple

Analyser des documents est aussi simple que de joindre un fichier

Une des choses que j'apprécie chez Ollama, c'est qu'il n'est pas nécessaire d'être particulièrement technique pour obtenir de bons résultats. L'application Windows fournit une interface graphique, vous n'avez donc pas besoin de passer du temps dans le terminal. vous venez de visiter Site Web d'Ollama, téléchargez le logiciel et installez-le. Une fois cela fait, vous pouvez parcourir et télécharger des modèles d'IA directement via l'application. Il y a beaucoup de choix, mais mon mini PC n'a pas de carte graphique puissante, j'avais donc besoin de quelque chose qui puisse fonctionner localement sans tout analyser. J'ai opté pour Qwen2.5:7B, un modèle relativement petit (4,7 Go) qui fonctionne bien sur mon mini PC.

Une fois le modèle téléchargé et exécuté, l’utilisation d’Ollama était étonnamment similaire à ChatGPT ou Claude. Je peux faire glisser un PDF dans la conversation ou utiliser l'option de pièce jointe pour sélectionner un document. À partir de là, je peux lui demander de résumer le document, de trouver des informations spécifiques, d'expliquer un langage compliqué ou de répondre à des questions sur son contenu. Vous n'avez pas besoin d'invites élaborées pour faire quoi que ce soit. Vous pouvez poser des questions comme vous le feriez avec une autre personne. Et comme avec l'IA cloud, vous pouvez poser des questions complémentaires sur le même document sans le télécharger à nouveau, tant que vous restez dans la même conversation.

J'ai testé Ollama avec des factures, des contrats et de longs PDF

J'ai été surpris de voir à quel point Qwen comprenait

Je voulais voir à quel point Ollama pouvait être utile avec les types de documents que je traite régulièrement, plutôt que de simplement l'utiliser comme un autre chatbot IA. J'ai créé huit exemples de documents, notamment des factures, des relevés bancaires, des contrats de service et des manuels de produits. Je recommande de joindre chaque document individuellement et de poser des questions à Qwen sur son contenu, en commençant par des questions simples avant de passer à des questions plus complexes. Par exemple, j'ai demandé à Qwen s'il y avait des exclusions dans un contrat de service de maintenance. Il en a correctement identifié plusieurs, notamment le remplacement du matériel, la récupération des ransomwares et le travail sur site en dehors des heures normales. J'ai enchaîné avec une situation hypothétique impliquant une panne de réseau un samedi. Qwen a pu relier plusieurs dispositions du contrat et expliquer pourquoi l'assistance sur site le samedi n'était pas incluse et nécessiterait une approbation distincte et des frais supplémentaires.

J'ai également utilisé Qwen pour analyser un exemple de relevé bancaire, en lui demandant d'identifier les dépenses potentiellement récurrentes et de calculer leur total. Il a extrait les informations et organisé les résultats d’une manière facile à comprendre, même s’il a initialement négligé une accusation. J'y reviendrai plus tard. Les factures sont un autre cas d’utilisation naturel. Plutôt que de trier les éléments de campagne et les conditions de paiement, je peux demander à Ollama de trouver les dates de facturation, d'expliquer les frais individuels ou de résumer ce que je dois et quand. Cela peut être particulièrement utile lorsque vous essayez de déchiffrer les factures médicales et autres documents de santé. Le véritable avantage n’est pas seulement d’obtenir un résumé. C'est être capable de poser des questions de suivi dans un langage normal et de trouver les informations dont j'ai besoin sans avoir à relire l'intégralité du document.

Ollama s'est chargé du travail, mais il y avait quelques limitations

L'IA locale n'est pas parfaite, mais l'IA cloud non plus

Dans l'ensemble, j'ai été impressionné par la façon dont Qwen gère mes documents, d'autant plus que tout s'exécute localement sur mon mini PC. Cela dit, j'ai rencontré quelques limitations. Par exemple, lorsque j'ai demandé à Qwen d'identifier les frais récurrents sur mon relevé bancaire, il a rapidement identifié mon abonnement de streaming et mon forfait de téléphonie mobile, mais a ignoré mon abonnement à une salle de sport. Lorsque je lui ai demandé de réexaminer la déclaration, il a trouvé les trois et a calculé correctement le total. Je pense que c'est un bon rappel que vous devez toujours revérifier les réponses générées par l'IA, que vous utilisiez ChatGPT, Claude ou un LLM local.

Le deuxième problème concernait un PDF volumineux qu'Ollama n'acceptait pas. J'ai essayé de joindre un document de 24 Mo, mais au départ, rien ne s'est produit. Je pensais que la candidature était gelée. Lors de ma deuxième tentative, j'ai reçu un message d'erreur « Fichier trop volumineux ». Plutôt que de passer du temps à essayer de comprendre pourquoi, j'ai ouvert le PDF dans Microsoft Edge et utilisé la fonction d'impression pour le diviser en fichiers plus petits. Cela m'a permis de joindre le document par sections et de continuer à travailler. Aucun des deux problèmes n’a été un problème, mais les deux méritent d’être compris avant de s’appuyer sur l’IA locale pour analyser des documents importants.

L'IA locale a gagné une place dans mon flux de travail

Je ne suis pas prêt à abandonner ChatGPT ou Claude, et je ne pense pas que l'IA locale va remplacer de sitôt tout ce qu'ils peuvent faire. Mais lorsqu'il s'agit de travailler avec des documents personnels, je n'ai trouvé que très peu de raisons d'utiliser autre chose qu'Ollama. C'est gratuit, facile à utiliser et fonctionne assez bien sur le matériel que je possède déjà. Je dois encore revérifier ses réponses, mais c'est vrai pour tout outil d'IA. Ce qui m’a le plus surpris, c’est le peu de choses que j’ai dû abandonner en exécutant l’IA localement. Pour le type d’analyse de documents que je fais, Ollama est devenu mon premier choix.