Helyi modellek
Előkészítés
Telepítsen szervert/modellt az Ollamához, vagy töltsön modellt és indítson API-szervert az LM Studióban. OVMS telepítést külön készítsen elő. A Notemd nem telepít modelleket és nem indítja ezeket a szervereket. Pontos nevet/profilt válasszon, és valódi feladatot is teszteljen.
Végpont és hitelesítés
| Profil | Alap-URL | Példamodell | Protokoll / hozzáférés |
|---|---|---|---|
| Ollama | http://localhost:11434/api | llama3 | Natív Ollama; nem kötelező kulcs |
| LMStudio | http://localhost:1234/v1 | local-model | OpenAI-compatible; opcionális kulcs, alapból EMPTY |
| OVMS | http://localhost:8000/v3 | openvino-model | OpenAI-compatible; modellt és hozzáférést a telepítés ad |
A localhost az Obsidian eszközét jelenti. Telefonról ezzel nem a számítógépet éri el. LAN-végponthoz valódi cím és megfelelő védelem kell. Ne tegyen védtelen szervert nem megbízható hálózatra.
Modellek
Ollama a /api/tags, LM Studio esetleg a /v1/models útvonalat használja; OVMS telepítésfüggő. Lista nem bizonyít elegendő memóriát vagy alkalmas kimeneti formát. Próbáljon valódi kérést.
Hibaelhárítás
- Kapcsolat elutasítva: szerver, figyelési cím és port.
- Hiányzó modell: letöltés/betöltés és pontos alias.
- Hitelesítés: ahol kell, valódi token, ne automatikusan
EMPTY. - Lassú/hiányos válasz: memória, kontextus és keret; egy kéréssel kezdjen.
- Rossz formátum: köteghangolás előtt protokoll, prompt és modell vizsgálata.
Mikor megfelelő?
Ha az adatkezelési határ, hozzáférés és mért eredmény illeszkedik a feladathoz. Leválasztás előtt készítse elő a függőségeket. Ellenőrizzen minden útvonalat; helyi részlet felhő-LLM-hez is kerülhet. Tavily/DuckDuckGo hálózatos marad, exporthoz külön eszköz kellhet.