النماذج المحلية
يقوم المزودون المحليون بإبقاء محتوى الملاحظات خارج الخوادم المستضافة API. يغطي المسار المحلي الحالي Ollama باستخدام وسيلة النقل الأصلية ollama، وLMStudio عبر وسيلة النقل المتوافقة مع OpenAI. لا يُطلب وجود مفتاح API لأي من هذين المسارين، لكن يجب أن يكون الخادم المحلي والنموذج قيد التشغيل مسبقًا.
هذا جزء من Obsidian دليل إدارة المعرفة الذكية.
الإعداد
بالنسبة لـ Ollama، قم بتثبيت Ollama، واستخرج النموذج الذي تريده، وشغّل الخادم، ثم أضف ملف تعريف مزود Ollama في Notemd. أما بالنسبة لـ LMStudio، فقم بتحميل نموذج على الخادم المحلي لـ LM Studio وأضف ملف تعريف مزود LMStudio.
النماذج المحلية هي اعتمادات تشغيلية، وليست مجرد إعدادات. لا يمكن لـ Notemd استدعاء سوى ما تكشف عنه العملية المحلية، لذا تأكد من صحة النموذج المحلي خارج Obsidian قبل تصحيح أخطاء الإضافة.
النهاية والمصادقة
| المزود | URL الأساسية | النموذج الافتراضي | مفتاح API | ملاحظات |
|---|---|---|---|---|
| Ollama | localhost:11434/api | llama3 | غير مطلوب | NDJSON البث المباشر؛ اكتشاف النماذج عبر /api/tags |
| LMStudio | localhost:1234/v1 | local-model | غير مطلوب | يُرسل "EMPTY" كتوكن حامل؛ متوافق مع OpenAI |
يستخدم Ollama المسار الأصلي /chat أسفل قاعدته URL. يتبع LMStudio مسار chat/completions المتوافق مع OpenAI ويتوقع وجود نموذج تم تحميله على الخادم المحلي.
اكتشاف النماذج
يستخدم Ollama وضع الاكتشاف ollama-tags ويعرض العلامات التي تم سحبها محليًا. يستخدم LMStudio طريقة اكتشاف النماذج المتوافقة مع OpenAI عندما يكشف الخادم الخاص به عن /v1/models.
إذا لم يُرجع الاكتشاف أي شيء، فهذا عادةً مشكلة في حالة الخادم المحلي: النموذج لم يتم سحبه أو تحميله، أو أن الخادم مرتبط بمضيف/منفذ مختلف عن الموجود في الملف.
حل المشكلات
- تم رفض الاتصال: قم بتشغيل Ollama أو LM Studio وتأكد من البورت المُعدّل.
- تم العثور على نموذج غير موجود: قم بسحب علامة Ollama أو تحميل نموذج LM Studio قبل إجراء الاختبار.
- إخراج بطيء: قلل حجم السياق، استخدم نموذجًا محليًا أصغر، أو أرسل المهام الثقيلة إلى مزود مستضاف.
- الاستجابات الفارغة أو غير الصحيحة: تأكد من أن ملف تعريف المزود المختار يتوافق مع بروتوكول الخادم المحلي؛ Ollama و LMStudio لا يمكن استبدالهما ببعضهما البعض.
متى يجب استخدامه
استخدم مزودين محليين للخزائن الخاصة، أو العمل دون اتصال بالإنترنت، أو المهام المتكررة ذات التكلفة المنخفضة. لا تفترض أن الاستخدام المحلي هو الأفضل تلقائيًا لتوليف البحوث أو التفكير الطويل؛ فجودة النموذج وقيود الأجهزة هي ما يُشكّل التوازن.
الخطوات التالية
- [LLM المزودون -- إعداد كامل للتكوين وإعداد النموذج لكل مهمة
- حل المشكلات -- إصلاح أخطاء رفض الاتصال عندما لا يكون الخادم المحلي قيد التشغيل