Model Lokal
Pemasok lokal menyimpan konten catatan di luar API yang terhosting. Jalur lokal saat ini mencakup Ollama menggunakan transportasi bawaan ollama dan LMStudio melalui transportasi yang kompatibel dengan OpenAI. Tidak diperlukan kunci API untuk kedua jalur tersebut, tetapi server lokal dan model harus sudah berjalan terlebih dahulu.
Ini merupakan bagian dari Obsidian Panduan Manajemen Pengetahuan AI.
Pengaturan
Untuk Ollama, instal Ollama, unduh model yang diinginkan, mulai server, lalu tambahkan profil pemasok Ollama di Notemd. Untuk LMStudio, muat model di server lokal LM Studio dan tambahkan profil pemasok LMStudio.
Model lokal merupakan ketergantungan operasional, bukan sekadar pengaturan. Notemd hanya dapat memanggil fungsi yang ditawarkan oleh proses lokal, jadi periksa model lokal di luar Obsidian sebelum mendebag plugin.
Endpoint dan Autentikasi
| Penyedia | Base URL | Model Default | Kunci API | Catatan |
|---|---|---|---|---|
| Ollama | localhost:11434/api | llama3 | Tidak diperlukan | Streaming NDJSON; penemuan model melalui /api/tags |
| LMStudio | localhost:1234/v1 | local-model | Tidak diperlukan | Mengirim "EMPTY" sebagai token pembawa; kompatibel dengan OpenAI |
Ollama menggunakan jalur bawaan /chat di bawah Base URL-nya. LMStudio mengikuti rute chat/completions yang kompatibel dengan OpenAI dan mengharuskan model yang sudah dimuat di server lokal.
Penemuan Model
Ollama menggunakan mode penemuan ollama-tags dan menampilkan tag yang diunduh secara lokal. LMStudio menggunakan penemuan model yang kompatibel dengan OpenAI ketika servernya menawarkan /v1/models.
Jika penemuan tidak menghasilkan apa pun, biasanya itu merupakan masalah kondisi server lokal: model belum diunduh, belum dimuat, atau server terhubung ke host/port yang berbeda dari profilnya.
Pemecahan Masalah
- Connection refused: mulai Ollama atau LM Studio dan pastikan port yang dikonfigurasi sudah benar.
- Model tidak ditemukan: unduh tag Ollama atau muat model LM Studio sebelum menguji.
- Keluaran lambat: kurangi ukuran konteks, gunakan model lokal yang lebih kecil, atau arahkan tugas berat ke pemasok yang terhosting.
- Respons kosong atau tidak valid: pastikan profil pemasok yang dipilih sesuai dengan protokol server lokal; Ollama dan LMStudio tidak dapat saling digantikan.
Kapan Digunakan
Gunakan penyedia lokal untuk vault pribadi, pekerjaan offline, atau tugas berulang yang murah. Jangan berasumsi bahwa penggunaan lokal secara otomatis lebih baik untuk sintesis penelitian atau penalaran jangka panjang; kualitas model dan batasan perangkat keras merupakan faktor yang harus dipertimbangkan.
Langkah Selanjutnya
- LLM Penyedia -- Konfigurasi lengkap dan pengaturan model per tugas
- Pemecahan masalah -- Perbaiki kesalahan connection-refused ketika server lokal tidak berjalan