Локальні моделі
Підготовка
Встановіть сервер/модель для Ollama або завантажте модель і запустіть API в LM Studio. OVMS підготуйте окремо. Notemd не встановлює моделей і не запускає ці сервери. Задайте точну назву/профіль, перевірте з’єднання та завдання.
Endpoint та автентифікація
| Профіль | Базовий URL | Приклад моделі | Протокол / доступ |
|---|---|---|---|
| Ollama | http://localhost:11434/api | llama3 | Нативний Ollama; ключ не обов’язковий |
| LMStudio | http://localhost:1234/v1 | local-model | OpenAI-compatible; ключ необов’язковий, типово EMPTY |
| OVMS | http://localhost:8000/v3 | openvino-model | OpenAI-compatible; модель і доступ задає розгортання |
localhost означає пристрій Obsidian. Телефон так не звернеться до комп’ютера. Для LAN потрібні справжня адреса й належний захист. Не відкривайте незахищений сервер у недовіреній мережі.
Моделі
Ollama показує теги через /api/tags, LM Studio може мати /v1/models, OVMS залежить від розгортання. Список не доводить достатньої пам’яті чи правильного формату відповіді. Перевірте справжній запит.
Проблеми
- З’єднання відхилено: сервер, адреса прослуховування й порт.
- Немає моделі: завантаження/підготовка та точний псевдонім.
- Автентифікація: справжній токен, де потрібний, не безумовний
EMPTY. - Повільно/неповно: пам’ять, контекст і бюджет; почніть одним запитом.
- Неправильний формат: перевірте протокол, інструкцію й модель до налаштування пакетів.
Коли підходить
Коли межі даних, доступ і виміряний результат відповідають завданню. Перед від’єднанням підготуйте залежності. Перевірте всі маршрути; локальні уривки можуть надсилатися хмарному LLM. Tavily/DuckDuckGo залишаються мережевими, експорту можуть бути потрібні інші засоби.