Ir al contenido principal

Modelos locales

💡TL;DR

Los proveedores locales evitan que el contenido de las notas se almacene en los API hospedados. La ruta local actual cubre Ollama con el transporte nativo ollama y LMStudio a través del transporte compatible con OpenAI. No se requiere ninguna clave API para ninguna de las rutas, pero el servidor local y el modelo deben estar ya en ejecución.

Esto forma parte de la Obsidian Guía de Gestión del Conocimiento de IA.

Configuración

Para Ollama, instale Ollama, descargue el modelo que desee, inicie el servidor y agregue un perfil de proveedor Ollama en Notemd. Para LMStudio, cargue un modelo en el servidor local de LM Studio y agregue un perfil de proveedor LMStudio.

Los modelos locales son dependencias operativas, no solo configuraciones. Notemd solo puede llamar a lo que expone el proceso local, por lo que verifique el modelo local fuera de Obsidian antes de depurar el complemento.

Punto de extremo y autenticación

ProveedorBase URLModelo predeterminadoAPI ClaveNotas
Ollamalocalhost:11434/apillama3No es necesarioNDJSON transmisión en vivo; descubrimiento de modelos a través de /api/tags
LMStudiolocalhost:1234/v1local-modelNo es necesarioEnvía "EMPTY" como token de portador; compatible con OpenAI

Ollama utiliza la ruta nativa /chat debajo de su Base URL. LMStudio sigue la ruta chat/completions compatible con OpenAI y espera un modelo que esté cargado en el servidor local.

Descubrimiento de modelos

Ollama utiliza el modo de descubrimiento ollama-tags y muestra las etiquetas obtenidas localmente. LMStudio emplea el descubrimiento de modelos compatible con OpenAI cuando su servidor expone /v1/models.

Si el proceso de descubrimiento no devuelve nada, suele ser un problema de estado del servidor local: el modelo no se ha obtenido ni cargado, o el servidor está vinculado a un host/puerto diferente al indicado en el perfil.

Solución de problemas

  • Se rechazó la conexión: inicie Ollama o LM Studio y confirme el puerto configurado.
  • No se encontró el modelo: extraiga la etiqueta Ollama o cargue el modelo de LM Studio antes de probar.
  • Salida lenta: reduzca el tamaño del contexto, utilice un modelo local más pequeño o dirija las tareas intensivas a un proveedor alojado.
  • Respuestas vacías o mal formadas: confirme que el perfil del proveedor seleccionado coincida con el protocolo del servidor local; Ollama y LMStudio no son intercambiables.

Cuándo usarlo

Utilice proveedores locales para bóvedas privadas, trabajo sin conexión o tareas repetitivas económicas. No asuma que lo local es automáticamente mejor para la síntesis de investigaciones o el razonamiento prolongado; la calidad del modelo y las limitaciones del hardware son el equilibrio a considerar.


Próximos pasos

  • LLM Proveedores -- Configuración completa y configuración del modelo por tarea
  • Solución de problemas -- Corregir errores de connection-refused cuando el servidor local no está en ejecución