Локальные модели
Локальные поставщики не сохраняют содержимое заметок на хостинговых APIs. Текущий локальный путь охватывает Ollama с использованием нативного транспорта ollama и LMStudio через транспорт, совместимый с OpenAI. Для обоих путей не требуется ключ API, но локальный сервер и модель должны уже работать.
Настройка
Для Ollama установите Ollama, загрузите нужную модель, запустите сервер и добавьте профиль поставщика Ollama в Notemd. Для LMStudio загрузите модель в локальный сервер LM Studio и добавьте профиль поставщика LMStudio.
Локальные модели являются операционными зависимостями, а не просто настройками. Notemd может вызывать только те функции, которые предоставляет локальный процесс, поэтому перед отладкой плагина проверьте локальную модель вне Obsidian.
Конец и аутентификация
| Поставщик | Base URL | Стандартная модель | Ключ API | Примечания |
|---|---|---|---|---|
| Ollama | localhost:11434/api | llama3 | Не требуется | Стриминг NDJSON; обнаружение моделей через /api/tags |
| LMStudio | localhost:1234/v1 | local-model | Не требуется | Отправляет "EMPTY" в качестве токена-носителя; совместимо с OpenAI |
Ollama использует нативный путь /chat под своим Base URL. LMStudio следует маршруту chat/completions, совместимому с OpenAI, и ожидает модель, загруженную в локальном сервере.
Обнаружение моделей
Ollama использует режим обнаружения ollama-tags и выводит локально загруженные теги. LMStudio использует обнаружение моделей, совместимое с OpenAI, когда его сервер предоставляет /v1/models.
Если обнаружение ничего не возвращает, это обычно проблема состояния локального сервера: модель не была загружена или не загружена, либо сервер подключен к другому хосту/порту, чем указано в профиле.
Устранение неполадок
- Отказ в соединении: запустите Ollama или LM Studio и убедитесь, что указан правильный порт.
- Модель не найдена: загрузите тег Ollama или загрузите модель LM Studio перед тестированием.
- Медленный вывод: уменьшите размер контекста, используйте более маленькую локальную модель или направляйте тяжелые задачи к хостинговому поставщику.
- Пустые или некорректные ответы: убедитесь, что выбранный профиль поставщика соответствует протоколу локального сервера; Ollama и LMStudio не являются взаимозаменяемыми.
Когда использовать
Используйте локальных поставщиков для частных хранилищ, работы офлайн или дешевых повторяющихся задач. Не предполагайте, что локальный вариант автоматически лучше для синтеза исследований или длительных рассуждений; качество модели и ограничения оборудования являются факторами, которые необходимо учитывать.
Следующие шаги
- LLM Поставщики -- Полная конфигурация и настройка модели для каждой задачи
- Устранение неполадок -- Устранение ошибок connection-refused, когда локальный сервер не запущен