Yerel modeller
Hazırlık
Ollama sunucusu/modelini kurun veya LM Studio içinde model yükleyip API’yi başlatın. OVMS kurulumunu önceden hazırlayın. Notemd modelleri kurmaz veya sunucuları başlatmaz. Tam ad ve profil seçip bağlantıyı ve görevi test edin.
Uç nokta ve kimlik doğrulama
| Profil | Temel URL | Örnek model | Protokol / erişim |
|---|---|---|---|
| Ollama | http://localhost:11434/api | llama3 | Ollama protokolü; zorunlu anahtar yok |
| LMStudio | http://localhost:1234/v1 | local-model | OpenAI uyumlu; anahtar isteğe bağlı, başlangıç EMPTY |
| OVMS | http://localhost:8000/v3 | openvino-model | OpenAI uyumlu; model ve erişim kurulumdan gelir |
localhost, Obsidian’ın çalıştığı cihazdır. Telefon bu adresle bilgisayara erişmez. LAN için gerçek adres ve uygun güvenlik gerekir. Korunmayan sunucuları güvenilmeyen ağlara açmayın.
Modeller
Ollama /api/tags üzerinden etiketleri gösterir, LM Studio /v1/models sunabilir; OVMS kurulumu izler. Liste yeterli bellek veya doğru çıktı biçimini kanıtlamaz. Gerçek isteği deneyin.
Sorunlar
- Bağlantı reddi: sunucu, dinleme adresi ve port.
- Model yok: indirme/yükleme ve tam takma ad.
- Kimlik doğrulama: gerekiyorsa gerçek token, körlemesine
EMPTYdeğil. - Yavaş/eksik: bellek, bağlam ve bütçe; tek istekle başlayın.
- Yanlış biçim: toplu ayardan önce protokol, istem ve modeli kontrol edin.
Ne zaman seçilmeli
Veri sınırı, erişim ve ölçülen sonuçlar uygunsa. Ağ bağlantısını kesmeden bağımlılıkları hazırlayın. Tüm görev rotalarını kontrol edin; yerel parçalar bulut LLM’sine gidebilir. Tavily/DuckDuckGo çevrimiçi kalır; yerel uygulama aktarımı ayrı araçlar isteyebilir.