Lokale modeller
Forberedelse
Installer server/modell for Ollama, eller last modell og start API i LM Studio. Forbered OVMS-deployment separat. Notemd installerer ikke modeller og starter ikke disse serverne. Velg eksakt navn/profil og test forbindelse samt oppgave.
Endepunkt og autentisering
| Profil | Basis-URL | Eksempelmodell | Protokoll / tilgang |
|---|---|---|---|
| Ollama | http://localhost:11434/api | llama3 | Native Ollama; ingen påkrevd nøkkel |
| LMStudio | http://localhost:1234/v1 | local-model | OpenAI-kompatibel; valgfri nøkkel, startverdi EMPTY |
| OVMS | http://localhost:8000/v3 | openvino-model | OpenAI-kompatibel; modell og tilgang fra deployment |
localhost viser til Obsidian-enheten. Telefonen når ikke datamaskinen med den adressen. LAN krever faktisk adresse og passende sikkerhet. Ikke eksponer ubeskyttede servere mot ubetrodde nettverk.
Modeller
Ollama viser tagger via /api/tags, LM Studio kan tilby /v1/models, og OVMS følger deploymenten. Liste beviser ikke tilstrekkelig minne eller riktig resultatformat. Test et virkelig kall.
Problemer
- Forbindelse avvist: server, lytteadresse og port.
- Manglende modell: hent/last og kontroller alias.
- Autentisering: reell token der den kreves, ikke blindt
EMPTY. - Tregt/ufullstendig: minne, kontekst og budsjett; start med ett kall.
- Feil format: se protokoll, instruksjon og modell før batchjustering.
Når passer profilen?
Når datagrense, tilgang og målte resultater passer. Forbered avhengigheter før frakobling. Kontroller alle oppgaveruter; lokale utdrag kan gå til sky-LLM. Tavily/DuckDuckGo forblir på nett, og native eksport kan kreve separate verktøy.