Aller au contenu principal

Modèles locaux

💡TL;DR

Un serveur local peut traiter le contenu sur votre appareil. Installez ou chargez d’abord le modèle et choisissez le protocole correspondant. Cela ne rend pas hors ligne la recherche Web, les adresses distantes, l’installation des dépendances ou les tâches routées vers le cloud.

Configuration​

Pour Ollama, installez le serveur et téléchargez un modèle. Pour LM Studio, chargez le modèle et lancez le serveur API. Préparez le déploiement OVMS avant son profil Notemd.

Choisissez le préréglage, le nom exact exposé, testez la connexion puis une note. Notemd n’installe pas les modèles et ne lance pas les serveurs.

Adresse et authentification​

PréréglageURL par défautModèle d’exempleProtocole / authentification
Ollamahttp://localhost:11434/apillama3Ollama natif ; sans clé obligatoire
LMStudiohttp://localhost:1234/v1local-modelOpenAI-compatible ; clé facultative, valeur EMPTY par défaut
OVMShttp://localhost:8000/v3openvino-modelOpenAI-compatible ; configurer modèle et accès du déploiement

localhost désigne l’appareil exécutant Obsidian. Sur un téléphone, cette adresse ne désigne pas votre ordinateur. Un endpoint LAN est un service réseau : utilisez sa vraie adresse et l’authentification adaptée, sans exposer de serveur ouvert à un réseau non fiable.

Découverte​

Ollama liste ses tags via /api/tags, LM Studio peut exposer /v1/models, et OVMS a des règles liées au déploiement. Une liste ne garantit ni mémoire suffisante ni capacité de sortie structurée ; testez une requête réelle.

Dépannage​

  • Connexion refusée : état du serveur, écoute et port.
  • Modèle absent : téléchargement/chargement, nom exact ou alias.
  • Authentification refusée : vrai jeton, sans supposer EMPTY accepté.
  • Lenteur/troncature : mémoire, contexte et limites ; une requête à la fois.
  • Format invalide : protocole, prompt et capacité du modèle avant réglage du lot.

Cas d’usage​

Choisissez le local si confidentialité, disponibilité et résultats mesurés conviennent. Préparez modèles et dépendances d’export avant déconnexion. Vérifiez chaque fournisseur par tâche : des extraits indexés localement peuvent être envoyés à un LLM cloud.

Tavily et DuckDuckGo restent connectés ; les exports natifs peuvent exiger des outils séparés. Un modèle local ne garantit pas que toutes les fonctions soient hors ligne.

Pour continuer​