LLM Tjänsteudbydere
Notemd støder 36 LLM tjänsteudbydere over 4 transporttyper. Alle API anrop bruger rå HTTP (ingen SDK:er) med automatisk forsøg igen, transportfallback og 5-minutters cache for svar. Val af modell per opgave giver dig mulighed for at bruge billige modeller til konceptuddragelse og kraftfulde modeller til forskning. Ingen API-nyckel er nødvendig for lokale tjänsteudbydere (Ollama, LMStudio).
Dette er en del af Obsidian AI Knowledge Management Guide.
Kategorier for tjänsteudbydere
Molnet-tjänsteudbydere
| Leverandør | Standardbasen URL | Standardmodell | Temperature |
|---|---|---|---|
| DeepSeek | api.deepseek.com | deepseek-v4-pro | 0.5 |
| OpenAI | api.openai.com/v1 | gpt-4o | 0.5 |
| Anthropic | api.anthropic.com | claude-3-5-sonnet-20240620 | 0.5 |
generativelanguage.googleapis.com/v1 | gemini-2.0-flash-exp | 0.5 | |
| Mistral | api.mistral.ai/v1 | mistral-large-latest | 0.5 |
| xAI | api.x.ai/v1 | grok-4 | 0.7 |
| Cerebras | api.cerebras.ai/v1 | gpt-oss-120b | 0.5 |
| Fireworks | api.fireworks.ai/inference/v1 | kimi-k2p5 | 0.5 |
| Nebius | api.studio.nebius.com/v1 | openai/gpt-oss-120b | 0.3 |
Gateway-/Proxy-tjänsteudbydere
| Leverandør | Standardbasen URL | Standardmodell | Opmerkninger |
|---|---|---|---|
| OpenRouter | openrouter.ai/api/v1 | anthropic/claude-3.7-sonnet | Lægger til HTTP-Referer + X-Title-heder |
| GitHub Models | models.github.ai/inference | gpt-4o-mini | Lægger til X-GitHub-Api-Version-heder |
| AIHubMix | aihubmix.com/v1 | gpt-4o-mini | Lægger til APP-Code-heder |
| PPIO | api.ppinfra.com/v3/openai | qwen/qwen3-32b | |
| Hugging Face | router.huggingface.co/v1 | openai/gpt-oss-120b | |
| Vercel AI Gateway | ai-gateway.vercel.sh/v1 | anthropic/claude-sonnet-4.5 | |
| Requesty | router.requesty.ai/v1 | anthropic/claude-3-7-sonnet-latest | |
| Together | api.together.xyz/v1 | meta-llama/Meta-Llama-3.1-70B-Instruct-Turbo | |
| LiteLLM | localhost:4000/v1 | your-proxy-model | Valgfri API-nyckel |
| Ny API | localhost:3000/v1 | gpt-4.1 | Valgfri API-nyckel |
| OpenAI Compatible | (anvenderekonfigureret) | your-model-id | Egen endpoint |
Kinesiske leverandører
| Leverandør | Standard base URL | Standardmodell | Opmerkninger |
|---|---|---|---|
| Qwen | dashscope.aliyuncs.com/compatible-mode/v1 | qwen3-235b-a22b | Alibaba DashScope |
| Qwen Code | dashscope.aliyuncs.com/compatible-mode/v1 | qwen3-coder-plus | Fokuseret på kodning |
| Doubao | ark.cn-beijing.volces.com/api/v3 | (kræves endpoint ID) | ByteDance Volcengine |
| Moonshot | api.moonshot.cn/v1 | kimi-k2-0905-preview | Kimi |
| Xiaomi MiMo | api.xiaomimimo.com/v1 | mimo-v2.5-pro | |
| GLM | open.bigmodel.cn/api/paas/v4 | glm-5 | Zhipu, Kinas endpoint |
| Z AI | api.z.ai/api/paas/v4 | glm-5 | Zhipu, international endpoint |
| MiniMax | api.minimaxi.com/v1 | MiniMax-M2.7 | |
| Baidu Qianfan | qianfan.baidubce.com/v2 | ernie-4.5-turbo-32k | |
| SiliconFlow | api.siliconflow.cn/v1 | Qwen/QwQ-32B | Plattform for modellhosting |
| Huawei Cloud MaaS | api.modelarts-maas.com/v1 | DeepSeek-V3 |
Doubao kræver en Ark endpoint ID (format: ep-xxxxxxxx-xxxx-xxxx). Den standardmæssige placeringen må erstattes.
Lokale leverandører
| Leverandør | Standard base URL | Standardmodell | Opmerkninger |
|---|---|---|---|
| Ollama | localhost:11434/api | llama3 | Ingen API-klave. NDJSON-strømning. Modelludvikling gennem /api/tags |
| LMStudio | localhost:1234/v1 | local-model | Sendes "EMPTY" som bearer-token. OpenAI-kompatibel udvikling |
| OVMS | localhost:8000/v3 | openvino-model | OpenVINO Model Server |
| Azure OpenAI | (anvenderekonfigureret) | gpt-4o | Deployment-navn i URL. api-key header |
Modellval per opgave
Notemd understøtter en uafhængig leverandør og modell for hver opgave. Aktiver med useMultiModelSettings: true.
Tilgængelige opgaver
| Opgave | Indstillingssleutel | Standardleverandør |
|---|---|---|
| Føj links (wiki-link-indsætning) | addLinksProvider / addLinksModel | DeepSeek |
| Forskning (websearch + sammanfattelse) | researchProvider / researchModel | DeepSeek |
| Generer fra titel | generateTitleProvider / generateTitleModel | DeepSeek |
| Oversætning | translateProvider / translateModel | DeepSeek |
| Diagramgenerering | summarizeToMermaidProvider / Model | DeepSeek |
| Konceptuddragelse | extractConceptsProvider / Model | DeepSeek |
| Ursprungstekstuddragelse | extractOriginalTextProvider / Model | DeepSeek |
Løsningsordning
- Hvis
useMultiModelSettingser aktiveret → brug den opgavespecifikke leverandør + modell - Hvis overraskelse af opgavemodellen er tom → falde tilbake til leverandørens standardmodell
- Hvis opgaveleverandøren er ugyldig → falde tilbake til den globale
activeProvider - Hvis
useMultiModelSettingser slukket → bruger alle opgaver det globaleactiveProvider
Anbefalede konfigurationer
# Researcher: power for research, cheap for everything else
activeProvider: DeepSeek
extractConceptsProvider: DeepSeek
researchProvider: OpenAI # GPT-4o for better research quality
summarizeToMermaidProvider: DeepSeek
# Privacy-first: local only
activeProvider: Ollama
addLinksProvider: Ollama
extractConceptsProvider: Ollama
# Budget bilingual
activeProvider: DeepSeek
translateProvider: Google # Gemini Flash for translation
researchProvider: SiliconFlow # Cheaper China-based routing
API Kaldarkitektur
Transportlag
- Obsidian
requestUrl— primært (indbygget, virker på alle platforme) - Desktop HTTP — Node.js
http/httpsmoduler (strømning + lange anmodninger) - Web
fetch— fallback når Node.js moduler er utilgængelige
Pluginen eskalerer automatisk mellem transportlag på tidsvarende netværksfejl.
Gennemføringslogik
- Normalt mode (
enableStableApiCall: false): En enkelt forsøg. Ved tidsvarende fejl eskaleres det automatisk til et stabilt gennemførsel. - Stabilt gennemføringsmode (
enableStableApiCall: true): Op til 4 forsøg (1 + 3 gennemførelser) med 5 sekunders intervalle. - Tidsvarende fejl, der utløser gennemførsel:
err_connection_closed,err_connection_reset,err_timed_out,econnreset,econnaborted,etimedout,socket hang up,network request failed - Udgivelsesfri: HTTP 400, 401, 403, 404
Svarcaching
5-minutters LRU-cache i minnet, keydet af leverandør + modell + temperatur + prompt + indhold. Folgende identiske anmodninger indenfor 5 minutter returnerer cacheede resultater omedelbart.
Hantering af resonemangsmodeller
Modeller, der ikke understøtter system-rollen (DeepSeek R1, OpenAI o1/o3/o4/gpt-5), har automatisk system- og brugerprompter kombineret til en enkelt brugermeddelelse.
DeepSeek-specifik: thinkingEnabled tilføjer { thinking: { type: 'enabled' } } til anmodningen. reasoningEffort (lave/midlere/høje) sendes som reasoning_effort. Kontrollerer, at maksimal udgangstal af token er ≥ 8000, når tænkning er aktiveret.
Token-estimering
estimateTokens(text): Math.ceil(text.length / 4) — heuristik med 4 tegn per token. Bruges til at sikre maxResearchContentTokens før sendelse til LLM.
Der er ingen kostholdning implementeret.
Modelludvikling
| Modus | Tilbydere | Endpoint |
|---|---|---|
ollama-tags | Ollama | /api/tags |
google-models | Modellliste API | |
anthropic-models | Anthropic | Modellliste API |
openai-compatible-models | DeepSeek, Qwen, Mistral, osv. | /v1/models |
openrouter-models | OpenRouter | Modellliste API |
github-models | GitHub Models | Inferenc API |
none | Azure OpenAI | Udfyldt (kræver udviklingsnavn) |
Snabb start
- Vælg en tilbyder — DeepSeek (Kina), OpenAI (Internationelt) eller Ollama (Lokal/Frit)
- Indtast API-koden — Indstillinger → Notemd → Tilbyder → API-kode
- Prøv forbindelsen — Klik på prøv-knappen
- Valgfrit: Modeller per opgave — Aktiver
useMultiModelSettingsog konfigurér dem individuelt
For Ollama: der er ingen API-klæde nødvendig. Sikre dig bare for at ollama serve er i gang.
Næste trin
- 📝 Konceptnoter — Bruger modellen til extraction per opgave
- 🎨 Diagrammer — Bruger diagrammodellen per opgave
- 🔍 Forskning — Bruger modellen specifikt for forskning
- ⚙️ Konfiguration — Fuld referens over indstillinger