AI Platform (AIP)AIP Chatbot Studioツール概要

注: 以下の翻訳の正確性は検証されていません。AIPを利用して英語版の原文から機械的に翻訳されたものです。

ツール

ツールは、大規模言語モデル(LLM)が特定のアクションを実行したり、本来の機能だけでは取得できない情報を取得したりするために使用できる外部機能や API です。ツールは、LLM が制御フローを決定し、入力を構成できるようにするうえで特に役立ちます。

アクション、オブジェクトクエリツール、オントロジーセマンティック検索ツールを設定したチャットボットを示す、AIP Chatbot の編集モードのスクリーンショット。

ツールの種類

利用可能なツールは6種類あります。

  • アクション: チャットボットがオントロジーの編集を実行できるようにします。自動で実行するか、ユーザーの確認後に実行するかを設定できます。
  • オブジェクトクエリ: このツールは、LLM がアクセスできるオブジェクトタイプを指定します。複数のオブジェクトタイプを追加し、アクセス可能なプロパティを指定することで、クエリのトークン効率を向上させることができます。オブジェクトクエリツールは、設定されたオブジェクトの絞り込み、集計、検査、およびリンクの走査に対応しています。
  • 関数: LLM が、公開済みの AIP Logic 関数を含む任意の Foundry 関数を呼び出せるようにします。関数の最新バージョンが自動的に使用されますが、より細かく制御するために公開済みのバージョンを指定することもできます。
  • アプリケーション変数を更新: このツールは、アプリケーションの状態タブで設定されたアプリケーション変数の値を更新するために使用します。
  • コマンド: これらのツールは、1つまたは複数のコマンドを使用して、チャットボットがほかの Palantir アプリケーションで操作を開始できるようにします。
  • 説明をリクエスト: このツールは、チャットボットが実行を一時停止し、ユーザーに説明を求められるようにします。
  • (レガシー)オントロジーセマンティック検索: このツールは、ベクトルプロパティを使用して、関連するオントロジーコンテキストを取得できます。このツールはレガシーであり、引用や入力/出力変数を含まず、結果のオブジェクトセットを LLM に返しません。代わりにオントロジーコンテキストを使用することを推奨します。

ツールモード

ツールモードの設定を使用して、設定済みのツールを LLM に提供する方法と、LLM がそれらのツールを呼び出す方法を制御します。利用可能なツールモードの設定は次のとおりです。

  • プロンプトツールの呼び出し: このモードは、プロンプトに指示を挿入してツールを提供し、LLM がそれらのツールを使用できるようにします。このツールモードのチャットボットは、一度に1つのツールしか呼び出せないため、ツールを複数回呼び出す必要がある複雑なクエリへの回答に時間がかかる場合があります。このモードは、すべての種類のツールと、利用可能なすべてのモデルに対応しています。
  • ネイティブツールの呼び出し: このモードは、対応モデルに組み込まれた機能を使用してツールを提供し、LLM がそれらのツールを直接呼び出せるようにします。トークン効率が高く、このモードのチャットボットは複数のツールを並列で呼び出せるため、プロンプトツールの呼び出しよりも速度とパフォーマンスが向上します。現在、このモードを使用できるのは、Palantir が提供するモデルの一部と、アクション、オブジェクトクエリ、関数、アプリケーション変数を更新の各ツールに限られます。ネイティブツールの呼び出しモードに対応していないモデルや種類のツールを使用する必要がある場合は、代わりにプロンプトツールの呼び出しモードを使用します。

AIP Chatbot の編集モードでのツールモードの選択。プロンプトツールの呼び出しモードとネイティブツールの呼び出しモードを選択できます。

推論を確認する

編集モード、閲覧モード、Workshop、または AIP Threads にデプロイされている場合、レスポンスの下にある推論を確認するを選択して、レスポンスの生成に使用された LLM の推論プロセスを調べることができます。

AIP Chatbot の編集モード。指定されたレスポンスに対する LLM の推論が右側に表示されています。