स्थानीय मॉडल
स्थानीय प्रदाता होस्टेड APIs से नोट सामग्री को बचाए रखते हैं। वर्तमान स्थानीय पथ Ollama को नेटिव ollama ट्रांसपोर्ट के साथ और LMStudio को OpenAI-संगत ट्रांसपोर्ट के माध्यम से कवर करता है। किसी भी पथ के लिए API कुंजी की आवश्यकता नहीं है, लेकिन स्थानीय सर्वर और मॉडल पहले से ही चल रहे होने चाहिए.
यह Obsidian AI Knowledge Management Guide का हिस्सा है.
सेटअप
Ollama के लिए, Ollama इंस्टॉल करें, आपका चाहा हुआ मॉडल प्राप्त करें, सर्वर शुरू करें, और Notemd में एक Ollama प्रदाता प्रोफ़ाइल जोड़ें। LMStudio के लिए, LM Studio के स्थानीय सर्वर में एक मॉडल लोड करें और एक LMStudio प्रदाता प्रोफ़ाइल जोड़ें.
स्थानीय मॉडल केवल सेटिंग्स नहीं हैं, बल्कि संचालन संबंधी निर्भरताएँ हैं। Notemd केवल उसी को कॉल कर सकता है जो स्थानीय प्रक्रिया द्वारा प्रदान किया जाता है, इसलिए प्लगइन को डीबग करने से पहले Obsidian के बाहर स्थानीय मॉडल की जाँच करें.
एंडपॉइंट एवं प्रमाणीकरण
| प्रदाता | Base URL | डिफ़ॉल्ट मॉडल | API कुंजी | नोट्स |
|---|---|---|---|---|
| Ollama | localhost:11434/api | llama3 | आवश्यक नहीं | NDJSON स्ट्रीमिंग; /api/tags के माध्यम से मॉडल खोज |
| LMStudio | localhost:1234/v1 | local-model | आवश्यक नहीं | "EMPTY" को बेयरर टोकन के रूप में भेजता है; OpenAI-संगत |
Ollama अपने Base URL के नीचे नेटिव /chat पथ का उपयोग करता है। LMStudio OpenAI-संगत chat/completions मार्ग का पालन करता है और स्थानीय सर्वर में लोड किए गए मॉडल की अपेक्षा करता है.
मॉडल खोज
Ollama ollama-tags खोज मोड का उपयोग करता है और स्थानीय रूप से प्राप्त किए गए टैग्स की सूची देता है। LMStudio तब OpenAI-संगत मॉडल खोज का उपयोग करता है जब उसका सर्वर /v1/models प्रदान करता है.
यदि खोज से कुछ भी नहीं मिलता, तो यह आमतौर पर स्थानीय-सर्वर स्थिति से संबंधित होता है: मॉडल प्राप्त नहीं हुआ है, लोड नहीं हुआ है, या सर्वर प्रोफ़ाइल के अनुसार अलग होस्ट/पोर्ट से जुड़ा हुआ है.
समस्या निवारण
- कनेक्शन अस्वीकार किया गया: Ollama या LM Studio शुरू करें और कॉन्फ़िगर किए गए पोर्ट की पुष्टि करें.
- मॉडल नहीं मिला: परीक्षण से पहले Ollama टैग प्राप्त करें या LM Studio मॉडल लोड करें.
- धीमा आउटपुट: कंटेक्स्ट आकार को कम करें, एक छोटा स्थानीय मॉडल उपयोग करें, या भारी कार्यों को होस्टेड प्रदाता के पास भेजें.
- खाली या गलत आकार के उत्तर: चुने गए प्रदाता प्रोफ़ाइल की स्थानीय सर्वर प्रोटोकॉल से मेल जाँचें; Ollama और LMStudio आपस में बदले नहीं जा सकते हैं.
कब उपयोग करें
निजी वॉल्ट, ऑफलाइन कार्य, या सस्ते दोहराव वाले कार्यों के लिए स्थानीय प्रदाताओं का उपयोग करें। अनुसंधान संश्लेषण या लंबे समय तक के तर्क हेतु स्थानीय विकल्प स्वचालित रूप से बेहतर होगा, ऐसा मानना नहीं चाहिए; मॉडल की गुणवत्ता एवं हार्डवेयर की सीमाएँ ही इसका समझौता हैं.
अगले चरण
- LLM प्रदाता -- पूर्ण कॉन्फ़िगरेशन एवं प्रत्येक कार्य हेतु मॉडल सेटअप
- समस्या निवारण -- जब स्थानीय सर्वर चल नहीं रहा हो तो connection-refused त्रुटियों को ठीक करें