Embeddingプロバイダーの設定

Embedding（埋め込み）は、文章の意味を検索できるように内容を数値のベクトルへ変換する処理です。 Nowledge Memでは「検索インデックス モデル」として、AI Nowのチャットモデルとは別に設定します。

ローカル検索で十分なら、内蔵モデルをそのまま使えます。 外部サービスでベクトルを計算する場合は、そのサービスのAPIキーと埋め込み専用モデルのIDを用意し、設定 → プロバイダー → インデックス モデル プロバイダーを開いてください。

プロバイダーとモデルの選択

検索用プロバイダーの選択欄で使える主な接続先は次のとおりです。 モデル名は入力例であり、品質の順位ではありません。 利用できるモデル、上限、リージョンは、各サービスのアカウントと公式資料で確認してください。

NVIDIA NIMとGitHub Copilotは追加の確認が必要です。 選択欄に表示されても、すべてのモデルを呼び出せるとは限りません。 一部のNVIDIAモデルは、検索クエリと文書を区別するinput_typeを必要としますが、現在の汎用リモートリクエストはこの値を送りません。 GitHub Copilotも、埋め込み用の認証とエンドポイントを個別に確認する必要があります。 一覧にモデルがあるという理由だけで、大量のデータの再構築を始めないでください。

Nowledge AIでは、検索用モデルをサービス側で管理するため、利用者が内部のモデルを選ぶ必要はありません。 このページのAPIキー設定手順は、プロバイダーを自分で管理できるローカル環境やセルフホスト環境向けです。 Nowledge Cloudの検索用モデルもサービス側で管理します。

設定の適用と確認

1. 設定 → プロバイダーでサービスを追加して保存します。認証が必要な場合はAPIキーを入力します。認証を無効にしたローカルサービスでは空欄にできます。
2. インデックス モデル プロバイダーで接続先を選びます。チャットと検索には別々のプロバイダーを使えます。
3. 埋め込み専用モデルを選びます。一覧を読み込めない場合は公式のモデルIDを貼り付けます。チャットモデルの名前は入力しません。
4. 適用を押し、埋め込みのテストとインデックス再構築の確認を進めます。チャットの接続テストでは埋め込みAPIを確認できません。
5. 再構築が完了してから検索結果を確認します。設定 → メモリ処理 → 検索でインデックスの状態を確認できます。サーバーではnmem statusとnmem models statusも使えます。

設定後は、選んだプロバイダーとモデルが表示され、再構築が不要な状態になっていることを確認してください。 さらに、保存した内容を別の言い方で検索します。 たとえば「毎週金曜日にプロジェクトの進捗を整理する」というメモリを保存し、「週次の仕事の振り返り予定」で見つかるかを確認します。 接続テストが1回成功しただけでは、初回の一括再構築や実際の検索まで確認したことにはなりません。

外部サービスを使うと、索引対象の文章と検索クエリがそのサービスに送られ、利用枠を消費します。 料金、データの取り扱い、呼び出し制限を事前に確認してください。

Customで別のサービスを追加する

Alibaba Cloud Model Studio、SiliconFlow、社内ゲートウェイなども、互換性のある埋め込みAPIを提供していれば、プロバイダーを追加 → Customから設定できます。

1. 作成時の用途をチャットではなくEmbedding / 検索インデックス モデルにします。
2. 名前、APIキー、APIのベースURL、埋め込みモデルのIDを1つ入力します。
3. ベースURLには埋め込みAPIのルートを入力します。Memが/embeddingsを追加するため、呼び出し先がhttps://example.com/v1/embeddingsならhttps://example.com/v1を指定します。
4. 保存後にテスト結果を確認します。テストに失敗しても設定が保存される場合があります。検索に使う前に、アドレス、モデル、権限を修正してください。
5. 検索用プロバイダーの選択を確認し、適用と再構築を完了します。

モデルの例はAlibaba Cloudのtext-embedding-v4やSiliconFlowの埋め込みモデル一覧で確認できます。 接続先はmodelとinputを受け取り、OpenAI互換のベクトル応答を返す必要があります。 チャットAPIだけの互換性では足りません。 追加のタスク指定、特別な認証、異なるリクエスト形式が必要な場合は、URLを変えるだけで使えると考えず、対応状況を確認してください。

中国本土向けのZhipuには埋め込みAPIがありますが、Z.AIの国際向けサービスとは接続先とアカウント権限が異なります。 Z.AIでチャットが動くことだけでは、同じ設定で埋め込みを使えるかどうかは判断できません。

設定済みのプロバイダーが表示されない場合

検索用の選択欄には、設定とモデルの保存が済み、埋め込み対応として登録されたプロバイダーが表示されます。 チャット用プロバイダーが自動で追加されるわけではありません。 Customは埋め込み用途で作成してください。 複数のチャット用サービスを設定していても、Geminiなど一部しか表示されない場合があります。

プロバイダー、モデル、ベクトルの次元数、モデルを動かすバックエンドを変えた場合は、案内に従ってインデックスを再構築してください。 次元数が同じでも、モデル間の互換性が保証されるわけではありません。 新しいモデルの検索ベクトルを、古いモデルが作ったインデックスと混ぜて使わないでください。 検索の説明は検索と関連性を参照してください。