Lokale modellen
Voorbereiding
Installeer server en model voor Ollama, of laad een model en start de API in LM Studio. Bereid OVMS-deployment vooraf voor. Notemd installeert geen modellen en start deze servers niet. Kies exacte naam en profiel, test verbinding en taak.
Endpoint en authenticatie
| Profiel | Begin-URL | Voorbeeldmodel | Protocol / toegang |
|---|---|---|---|
| Ollama | http://localhost:11434/api | llama3 | Native Ollama; geen verplichte sleutel |
| LMStudio | http://localhost:1234/v1 | local-model | OpenAI-compatible; sleutel optioneel, beginwaarde EMPTY |
| OVMS | http://localhost:8000/v3 | openvino-model | OpenAI-compatible; model en toegang van de deployment |
localhost verwijst naar het Obsidian-apparaat. De telefoon bereikt daarmee niet de computer. Een LAN-endpoint vereist werkelijk adres en passende beveiliging. Stel onbeveiligde servers niet bloot aan onbetrouwbare netwerken.
Modellen
Ollama toont tags via /api/tags, LM Studio kan /v1/models aanbieden; OVMS volgt de deployment. Een lijst bewijst geen voldoende geheugen of geschikt uitvoerformaat. Test een echte aanvraag.
Problemen
- Verbinding geweigerd: server, luisteradres en poort.
- Geen model: ophalen/laden en exacte alias.
- Authenticatie: echt token waar vereist, niet blind
EMPTY. - Traag/onvolledig: geheugen, context en budget; begin met één aanvraag.
- Formaat onjuist: controleer protocol, prompt en model vóór batchafstemming.
Wanneer gebruiken
Als gegevensgrens, beschikbaarheid en gemeten resultaten passen. Bereid afhankelijkheden voor voordat je netwerk verbreekt. Controleer elke taakroute: lokale fragmenten kunnen naar een cloud-LLM. Tavily/DuckDuckGo blijven online; native export kan afzonderlijke tools vereisen.