Ce projet Raspberry Pi AI a transformé mes notes en un deuxième cerveau consultable

J'écris déjà tout ce que j'écris dans Obsidian, alors pourquoi ne pas faire en sorte que l'IA puisse le rechercher à partir de n'importe quel appareil que j'utilise ? C'est ce que j'ai fait avec ce simple projet Raspberry Pi qui n'a besoin que d'un Pi, d'un petit modèle local et d'un coffre-fort Obsidian synchronisé.

Obsidian LiveSync peut fonctionner sur n'importe quoi (Raspberry Pi inclus)

Il contient toutes mes notes pour pouvoir les parcourir facilement

J'écris tous mes écrits en Obsidian, depuis un certain temps maintenant. J'ai utilisé différentes applications pour écrire au cours des dernières années, notamment Ulysses sur Mac, Google Docs, Notion, Asana et maintenant Obsidian.

J'aime Obsidian car il conserve les fichiers locaux sur mon ordinateur et en texte brut afin qu'ils puissent être lus par n'importe qui, que ce soit moi ou un système d'IA. J'aime aussi le fait de ne pas avoir à payer pour un service de synchronisation ou à utiliser une plate-forme tierce pour synchroniser mes notes comme Google Drive.

Avec Obsidian, je peux utiliser le plug-in open source LiveSync et faites-le synchroniser mes notes avec le cloud de mon choix : mon propre système. C'est un peu délicat, mais cela reste tout à fait possible.

Je commence par exécuter CouchDB dans Docker sur le Pi, qui est la source du serveur LiveSync. Cela conserve cependant les notes dans un blob crypté, de sorte qu'elles ne sont pas lisibles dès le départ.

Ensuite, j'exécute une version sans tête d'Obsidian LiveSync sur mon Raspberry Pi, qui synchronise les notes dans des fichiers Markdown lisibles par l'homme, ce qui permet à mes modèles d'IA locaux de parcourir mes notes.

Bien sûr, j'ai des sauvegardes hors site configurées via Duplicati sous forme de blobs cryptés sur Google Drive pour garantir la sécurité de mes écrits, mais j'aime que tout réside localement sur mes ordinateurs et mon téléphone et se synchronise via mon propre matériel.

Le Pi 5 peut réellement exécuter certains modèles d'IA sur l'appareil

Ils ne rivaliseront pas avec Claude ou ChatGPT, mais ils sont libres de fonctionner

Exécuter des modèles d’IA locaux sur un Raspberry Pi est vraiment quelque chose que seul le Pi 5 peut faire. Toi techniquement peut exécuter un modèle local sur n'importe quel Pi, mais ce ne sera tout simplement pas si rapide et vous serez assez limité à moins que vous ne disposiez d'une quantité décente de RAM sur le Pi que vous utilisez.

Mais, pour ceux qui possèdent un Pi 5 (et surtout si vous ajoutez le module AI HAT+ 2), il est effectivement possible d'exécuter quelque chose comme Qwen3 4B Instruct 2507 localement à une vitesse décente. Bien qu'il ne s'agisse pas d'un modèle de qualité frontière, ni même d'un modèle vraiment génial, il est bon pour traiter le texte et faire apparaître les informations que vous devez connaître.

Il est assez facile de lancer Qwen3 4B Instruct 2507 dans quelque chose comme Ollama ou llama.cpp (ou via hailo-ollama si vous avez le HAT) et de l'exécuter via Open WebUI pour avoir une interface de discussion complète afin de rechercher dans les fichiers qui y sont stockés. Je l'ai utilisé plusieurs fois pour trouver une note que je n'ai pas trouvée ou pour aider à analyser une partie du texte qui se trouve dans mon coffre-fort.

Tout ce que j'ai à faire, c'est de demander à l'IA où se trouve quelque chose et elle pourra le trouver pour moi.

C'est comme un assistant personnel qui a une mémoire parfaite

C'est en fait insensé de penser que je peux exécuter un modèle d'IA local sur un Raspberry Pi et que cela soit réellement utile. Je n'aurais pas Qwen3 4B Instruct 2507 ou d'autres modèles plus petits pour m'aider avec des tonnes de tâches dans la maison ou gérer des projets de codage, mais pour une simple recherche de texte et de documents, il est en fait tout à fait capable.

Chaque fois que j'ai besoin de trouver un fichier, je peux simplement utiliser Open WebUI en utilisant le modèle local Qwen3 4B Instruct 2507 pour rechercher toutes les notes qui se trouvent sur le Raspberry Pi. Ce qui est génial, c'est que puisque toutes les notes sont stockées en texte brut et accessibles sur les machines locales, je pourrais même exécuter un modèle plus puissant sur mon ordinateur de bureau ou mon ordinateur portable et rechercher Obsidian si je le voulais.

Mais c'est bien de pouvoir utiliser simplement le Pi autonome pour la recherche. Tout reste là et j’utilise mes autres appareils uniquement pour écrire. Cela me permet d'écrire à partir de mon iPad, Chromebook, ordinateur portable, ordinateur de bureau ou téléphone sans me soucier de savoir s'ils ont rattrapé leur retard dans la synchronisation les uns avec les autres. Tant que tout ce sur quoi j'écris parvient au Pi, qui exécute LiveSync, je peux le rechercher à l'aide de Qwen3 4B Instruct 2507.

Cela a pris un peu de piratage pour fonctionner, mais ma douleur est votre gain

En fait, faire en sorte qu'Open WebUI effectue une recherche dans un coffre-fort Obsidian n'est pas la chose la plus simple à accomplir. En fait, il m'a fallu quelques heures pour le faire fonctionner correctement, notamment en essayant de déterminer le meilleur modèle à utiliser et comment le faire obéir aux appels de l'outil, car les modèles à faibles paramètres ne sont pas les plus intelligents.

Alors, j'ai mis tout le code dont vous avez besoin pour le faire vous-même sur mon GitHub pour vous épargner la douleur que j'ai endurée pour que tout cela fonctionne. Cela devrait être assez unique pour vous une fois que vous avez le dépôt, mais je m'assurerais certainement de le tester plusieurs fois pour m'assurer qu'il fonctionne comme vous le souhaitez. Ces petits modèles aiment halluciner jusqu'à ce qu'ils soient invités à se soumettre.