Ir al contenido principal

Modelos locales

💡TL;DR

Un servidor activo puede procesar tareas en tu dispositivo. Prepara el modelo y configura su protocolo. Esto no hace offline búsqueda web, endpoints remotos, instalación de dependencias ni tareas dirigidas a la nube.

Configuración​

En Ollama instala servidor y descarga modelo. En LM Studio, carga el modelo e inicia API local. Para OVMS prepara el despliegue antes del perfil.

Selecciona perfil y nombre exacto expuesto, prueba conexión y una nota. Notemd no instala modelos ni inicia servidores.

Endpoint y autenticación​

PerfilURL inicialModelo de ejemploProtocolo / acceso
Ollamahttp://localhost:11434/apillama3Ollama nativo; no exige clave
LMStudiohttp://localhost:1234/v1local-modelOpenAI-compatible; clave opcional, valor inicial EMPTY
OVMShttp://localhost:8000/v3openvino-modelOpenAI-compatible; configurar modelo y acceso del despliegue

localhost es el dispositivo donde corre Obsidian. El loopback del teléfono no alcanza el modelo del ordenador. Un endpoint LAN es un servicio de red: usa dirección y autenticación correctas, sin exponer servidores abiertos a redes no confiables.

Modelos​

Ollama lista tags descargados por /api/tags; LM Studio puede publicar /v1/models. OVMS tiene reglas del despliegue. Una lista no garantiza memoria suficiente ni capacidad de formato; prueba una petición real.

Problemas​

  • Conexión rechazada: servidor, dirección de escucha y puerto.
  • Modelo ausente: descargar/cargar y usar nombre o alias exactos.
  • Autenticación: token real si se requiere; no asumir que EMPTY sirve.
  • Lento/incompleto: memoria, contexto y salida; empezar con una llamada.
  • Formato incorrecto: protocolo, prompt y modelo antes de cambiar el lote.

Cuándo usarlo​

Úsalo si privacidad, disponibilidad y resultados medidos cumplen lo necesario. Prepara modelos y dependencias de exportación antes de desconectar. Revisa cada ruta por tarea: los fragmentos locales pueden enviarse a un LLM cloud.

Tavily y DuckDuckGo siguen online. Los exportadores nativos pueden requerir herramientas separadas. Un perfil local no garantiza desconexión de todas las funciones.

Siguientes pasos​