مدلهای محلی
ارائهدهندگان محلی محتوای یادداشتها را از APIهای میزبانیشده دور نگه میدارند. مسیر محلی فعلی، Ollama را با حملونقل بومی ollama و LMStudio را از طریق حملونقل سازگار با OpenAI پوشش میدهد. هیچ کلید APIی برای هیچکدام از این مسیرها لازم نیست، اما سرور و مدل محلی باید از قبل در حال اجرا باشند.
این بخشی از Obsidian راهنمای مدیریت دانش هوش مصنوعی است.
برپایی
برای Ollama، Ollama را نصب کنید، مدل مورد نظر خود را بکشید، سرور را راهاندازی کنید و یک پروفایل ارائهدهنده Ollama را در Notemd اضافه کنید. برای LMStudio، مدل را در سرور محلی LM Studio بارگذاری کرده و یک پروفایل ارائهدهنده LMStudio اضافه کنید.
مدلهای محلی وابستگیهای عملیاتی هستند، نه فقط تنظیمات. Notemd تنها میتواند به آنچه فرآیند محلی ارائه میدهد دسترسی پیدا کند، بنابراین قبل از اشکالزدایی پلاگین، مدل محلی را خارج از Obsidian بررسی کنید.
انتهای پایگاه و احراز هویت
| ارائهدهنده | Base URL | مدل پیشفرض | کلید API | یادداشتها |
|---|---|---|---|---|
| Ollama | localhost:11434/api | llama3 | ضروری نیست | پخش NDJSON؛ کشف مدل از طریق /api/tags |
| LMStudio | localhost:1234/v1 | local-model | ضروری نیست | "EMPTY" را به عنوان توکن حامل ارسال میکند؛ سازگار با OpenAI |
Ollama از مسیر بومی /chat در زیر Base URL خود استفاده میکند. LMStudio از مسیر chat/completions سازگار با OpenAI پیروی کرده و انتظار دارد مدلی که در سرور محلی بارگذاری شده باشد، در دسترس باشد.
کشف مدلها
Ollama از حالت کشف ollama-tags استفاده کرده و برچسبهای بکشیدهشده به صورت محلی را فهرست میکند. LMStudio هنگامی که سرور آن /v1/models را ارائه میدهد، از روش کشف مدل سازگار با OpenAI استفاده میکند.
اگر کشف هیچ چیزی برنگرداند، معمولاً مشکلی در وضعیت سرور محلی وجود دارد: مدل بکشیده نشده، بارگذاری نشده یا سرور به میزبان/پورتی متفاوت از پروفایل متصل است.
رفع اشکالات
- درخواست اتصال رد شد: Ollama یا LM Studio را راهاندازی کرده و پورت پیکربندیشده را بررسی کنید.
- مدل پیدا نشد: قبل از آزمایش، برچسب Ollama را بکشید یا مدل LM Studio را بارگذاری کنید.
- خروجی آهسته: اندازه زمینه را کاهش دهید، از یک مدل محلی کوچکتر استفاده کنید یا وظایف سنگین را به یک ارائهدهنده میزبانیشده ارسال کنید.
- پاسخهای خالی یا نامعتبر: تأیید کنید که پروفایل ارائهدهنده انتخابشده با پروتکل سرور محلی مطابقت دارد؛ Ollama و LMStudio قابل جایگزینی نیستند.
زمان استفاده
برای خزانههای خصوصی، کار آفلاین یا وظایف تکراری ارزان، از ارائهدهندگان محلی استفاده کنید. فرض نکنید که استفاده از منابع محلی بهطور خودکار برای ترکیب تحقیقات یا استدلالهای طولانیمدت بهتر است؛ کیفیت مدل و محدودیتهای سختافزاری، معادلات معامله هستند.
گامهای بعدی
- LLM ارائهدهندگان -- پیکربندی کامل و تنظیم مدل برای هر وظیفه
- رفع اشکال -- رفع خطاهای connection-refused زمانی که سرور محلی در حال اجرا نیست