メインコンテンツへ移動

ローカルモデル

💡TL;DR

ローカルプロバイダーは、ホストされているAPI上にノートの内容を保存しません。 現在のローカルパスでは、ネイティブなollamaトランスポートを使用して Ollamaを、またOpenAI互換のトランスポートを使用して LMStudioを処理します。どちらのパスにもAPIキーは必要ありませんが、ローカルサーバーとモデルは事前に起動している必要があります。

これはObsidian AI知識管理ガイドの一部です。

セットアップ

Ollamaの場合は、Ollamaをインストールし、必要なモデルを取得してサーバーを起動した後、NotemdにOllamaプロバイダープロファイルを追加します。LMStudioの場合は、LM Studioのローカルサーバーでモデルを読み込み、LMStudioプロバイダープロファイルを追加します。

ローカルモデルは単なる設定ではなく、動作に必要な依存要素です。Notemdはローカルプロセスが公開する機能のみを呼び出すことができるため、プラグインのデバッグを行う前にObsidianの外部でローカルモデルを確認してください。

エンドポイントと認証

プロバイダーベース URLデフォルトモデルAPIキーメモ
Ollamalocalhost:11434/apillama3必要ありませんNDJSON ストリーミング;/api/tagsを介したモデル発見
LMStudiolocalhost:1234/v1local-model必要ありませんベアラートークンとして"EMPTY"を送信します。OpenAI互換です。

Ollamaは、Base URLの下にあるネイティブな/chatパスを使用します。LMStudioはOpenAI互換のchat/completionsルートに従い、ローカルサーバーで読み込まれたモデルを期待します。

モデル検出

Ollamaはollama-tagsのディスカバリーモードを使用し、ローカルで取得したタグを一覧表示します。LMStudioは、サーバーが/v1/modelsを公開している場合に、OpenAI互換のモデルディスカバリーを利用します。

ディスカバリで何も返ってこない場合、それは通常ローカルサーバーの状態に問題があることを意味します。モデルが取得されていない、読み込まれていない、またはサーバーがプロファイルとは異なるホスト/ポートにバインドされているのです。

トラブルシューティング

  • 接続が拒否されました:Ollama または LM Studio を起動し、設定されたポートを確認してください。
  • モデルが見つかりません:テストを行う前にOllamaタグを取得するか、LM Studioのモデルを読み込んでください。
  • 出力が遅い場合は、コンテキストサイズを小さくしたり、より小さいローカルモデルを使用したり、処理負荷の大きいタスクをホストされたプロバイダーに委託したりしてください。
  • 空の応答または形式が不正な応答:選択したプロバイダープロファイルがローカルサーバーのプロトコルと一致しているか確認してください。OllamaとLMStudioは互換性がありません。

いつ使用するか

プライベートなヴォルトの利用、オフラインでの作業、または安価で反復的なタスクにはローカルプロバイダを使用してください。研究の統合や長時間にわたる推論においてローカルが自動的に優れているとは限らないため、モデルの品質とハードウェアの制約がトレードオフとなります。


次のステップ