Model lokal

💡TL;DR

Penyedia lokal memungkinkan server model pada perangkat memproses isi tugas. Pasang/muat model dahulu, lalu pilih protokol sesuai. Pilihan lokal tidak membuat riset web, endpoint remote, pemasangan dependensi, atau tugas cloud menjadi offline.

Pengaturan

Untuk Ollama, pasang server dan unduh model. Untuk LM Studio, muat model dan mulai API lokal. Untuk OVMS, siapkan deployment sebelum menambahkan profil Notemd.

Pilih preset, masukkan nama yang disediakan server persis, jalankan Uji koneksi, lalu proses catatan uji. Notemd tidak memasang model atau memulai server tersebut untuk Anda.

Endpoint dan autentikasi

Preset	URL dasar bawaan	Placeholder model	Protokol / autentikasi
Ollama	http://localhost:11434/api	llama3	Ollama native; kunci API tidak wajib
LMStudio	http://localhost:1234/v1	local-model	Kompatibel OpenAI; kunci opsional, preset EMPTY
OVMS	http://localhost:8000/v3	openvino-model	Kompatibel OpenAI; atur model dan akses sesuai deployment

localhost berarti mesin Obsidian. Ponsel tidak mengakses model komputer lewat loopback ponsel sendiri. Endpoint LAN adalah layanan jaringan: gunakan alamat/autentikasi tepat, jangan membuka server tanpa autentikasi ke jaringan tak dipercaya.

Penemuan model

Ollama mendaftar tag unduhan melalui /api/tags; LM Studio dapat menyediakan /v1/models. OVMS mempunyai aturan sesuai deployment. Daftar tidak menjamin model muat memori atau mampu mengerjakan keluaran terstruktur; verifikasi permintaan nyata.

Pemecahan masalah

• Koneksi ditolak: periksa server, alamat listen, port.
• Model hilang: unduh/muat dan gunakan nama/alias endpoint persis.
• Autentikasi ditolak: isi token server, jangan menganggap EMPTY diterima.
• Lambat/tidak lengkap: periksa memori, konteks, batas hasil; mulai satu permintaan.
• Format salah: pastikan protokol, prompt, dan kemampuan model sebelum mengubah batch.

Kapan digunakan

Pilih inferensi lokal bila batas privasi, ketersediaan, dan hasil memenuhi kebutuhan. Siapkan model/dependensi sebelum memutus jaringan. Periksa semua penyedia per tugas dan pengambilan lokal: kutipan dikirim ke LLM pilihan yang masih bisa berupa cloud.

Riset Tavily/DuckDuckGo tetap online. Ekspor native mungkin memerlukan alat terpisah. Penyedia lokal hanya satu bagian alur offline, bukan jaminan seluruh fitur.

Selanjutnya

• Ikhtisar: perutean dan preset.
• Konfigurasi: penyedia tugas/bahasa.
• Pemecahan masalah: server dan tugas.