Aller au contenu principal

Modèles locaux

💡TL;DR

Les fournisseurs locaux empêchent que le contenu des notes ne soit stocké sur les API hébergés. Le chemin local actuel couvre Ollama avec le transport natif ollama et LMStudio via le transport compatible avec OpenAI. Aucune clé API n’est requise pour aucun de ces chemins, mais le serveur local et le modèle doivent déjà être en cours d’exécution.

Ceci fait partie du Obsidian Guide de gestion des connaissances IA.

Installation

Pour Ollama, installez Ollama, téléchargez le modèle que vous souhaitez, lancez le serveur, et ajoutez un profil de fournisseur Ollama dans Notemd. Pour LMStudio, chargez un modèle sur le serveur local de LM Studio et ajoutez un profil de fournisseur LMStudio.

Les modèles locaux sont des dépendances opérationnelles, et non simplement des paramètres. Notemd ne peut appeler que ce que le processus local expose, il faut donc vérifier le modèle local en dehors de Obsidian avant de déboguer le plugin.

Point de terminaison et authentification

FournisseurBase URLModèle par défautClé APINotes
Ollamalocalhost:11434/apillama3Pas requisNDJSON streaming ; découverte de modèles via /api/tags
LMStudiolocalhost:1234/v1local-modelPas requisEnvoie "EMPTY" en tant que token porteur ; compatible avec OpenAI

Ollama utilise le chemin natif /chat situé en dessous de son Base URL. LMStudio suit la route chat/completions compatible avec OpenAI et attend un modèle chargé sur le serveur local.

Découverte de modèles

Ollama utilise le mode de découverte ollama-tags et affiche les étiquettes téléchargées localement. LMStudio utilise la découverte de modèles compatible avec OpenAI lorsque son serveur expose /v1/models.

Si la découverte ne renvoie rien, c’est généralement un problème d’état du serveur local : le modèle n’a pas été récupéré ni chargé, ou bien le serveur est lié à un hôte/port différent de celui indiqué dans le profil.

Résolution de problèmes

  • Connexion refusée : lancez Ollama ou LM Studio et vérifiez le port configuré.
  • Modèle non trouvé : téléchargez la balise Ollama ou chargez le modèle LM Studio avant de tester.
  • Sortie lente : réduisez la taille du contexte, utilisez un modèle local plus petit, ou transférez les tâches gourmandes à un fournisseur hébergé.
  • Réponses vides ou mal formatées : assurez-vous que le profil du fournisseur sélectionné correspond au protocole du serveur local ; Ollama et LMStudio ne sont pas interchangeables.

Quand l'utiliser

Utilisez des fournisseurs locaux pour les coffres-forts privés, le travail hors ligne ou les tâches répétitives peu coûteuses. Ne supposez pas que le mode local soit automatiquement supérieur pour la synthèse de recherches ou le raisonnement prolongé ; la qualité du modèle et les limites matérielles constituent l’équilibre à trouver.


Prochaines étapes

  • LLM Fournisseurs -- Configuration complète et configuration du modèle par tâche
  • Dépannage -- Corriger les erreurs connection-refused lorsque le serveur local n’est pas en cours d’exécution