メインコンテンツへ移動

ローカルモデル

💡TL;DR

端末上で動くサーバーに内容を処理させる設定です。モデルを先に取得／読み込み、対応プロトコルを指定します。ローカル LLM の選択だけでは Web 検索、遠隔 URL、依存導入、クラウド指定タスクはオフラインになりません。

導入​

Ollama はサーバー導入とモデル pull、LM Studio はモデル読み込みと API サーバー起動、OVMS はモデル配備が必要です。

一致するプリセットで正確な公開モデル名を設定し、接続とノート処理を確認します。Notemd はモデル導入やサーバー起動を代行しません。

エンドポイントと認証​

プリセット既定 URLモデルの開始値プロトコル／認証
Ollamahttp://localhost:11434/apillama3ネイティブ Ollama。キー不要
LMStudiohttp://localhost:1234/v1local-modelOpenAI-compatible。キー任意、既定 EMPTY
OVMShttp://localhost:8000/v3openvino-modelOpenAI-compatible。配備に合うモデルと認証を設定

localhost は Obsidian を実行している端末です。スマートフォン自身のループバックから PC のモデルへは接続できません。LAN はネットワークサービスなので、実アドレスと適切な認証を使い、未認証サーバーを信頼できないネットワークへ公開しないでください。

モデルの発見​

Ollama は /api/tags、LM Studio は /v1/models、OVMS は配備に応じた一覧規則を使います。モデルが列挙されても、メモリーに収まることや構造化タスクへの対応を保証しません。実際に要求してください。

トラブルシューティング​

  • 接続拒否：サーバー、待受アドレス、ポートを確認。
  • モデルなし：pull／読み込みと正確な名称・別名を確認。
  • 認証拒否：EMPTY を前提にせず必要 token を入力。
  • 遅い／不完全：メモリー、文脈、出力上限を調べ、一要求ずつ試す。
  • 不正形式：バッチ設定変更前にプロトコル、プロンプト、モデル能力を確認。

選ぶ場面​

プライバシー範囲、可用性、実測結果が要件を満たす場合に使います。切断前にモデルと出力依存を導入し、タスク別 provider と検索設定を調べます。ローカル断片を渡す LLM がクラウドの可能性もあります。

Tavily／DuckDuckGo 調査はオンラインです。ネイティブ出力には別ツールが必要な場合があります。ローカルモデルはオフライン構成の一要素です。

次に読む​