注: 以下の翻訳の正確性は検証されていません。AIPを利用して英語版の原文から機械的に翻訳されたものです。

基本概念

以下の基本概念は、AIP Chatbot(旧称 AIP Agent Studio)を理解し、最大限に活用するために不可欠です。これらの概念の適用方法については、はじめにチュートリアルで詳しく説明しています。

AIP Chatbot

AIP Chatbot(旧称 AIP エージェント)は、企業固有の情報とツールを備えた対話型アシスタントです。

アプリケーションの状態

アプリケーションの状態は、以前はパラメーターと呼ばれていたもので、LLM の動作をカスタマイズして制御する、プロンプト内のアプリケーション変数です。動的な入力を可能にし、タスクの要件に基づいて調整できます。

指示と説明

指示、ツールの説明、変数の説明は、LLM 用の生のシステムプロンプトにまとめられます。これにより、利用可能なコンテキストを使用してタスクを完了する方法を LLM に教えます。

指示は、タスクの概要など、最も重要な情報から始めてください。その後に、必要なデータと、アプリケーションの状態およびツールの使用に関するガイダンスを記載します。

各ツールおよび変数の説明には、そのコンテキストをいつ、どのように使用するかについて、LLM に具体的な手順を示してください。LLM がアクセスできるのは、明示的に提供した情報のみであることに留意してください。

検索拡張生成(RAG)

検索拡張生成は、外部データソースを活用して、関連する情報を LLM に動的に提供します。この方法では、最新かつコンテキストに適したデータに基づくレスポンスを確保することで、LLM のレスポンスを向上させます。

検索コンテキスト

検索コンテキストとは、各メッセージに応じて取得され、レスポンスの生成に使用される具体的な情報を指します。処理の流れは次のとおりです。

  1. ユーザーが新しいメッセージを送信します。
  2. ユーザーのメッセージに基づいて、設定済みのデータソースから関連するコンテンツを取得します。
  3. 関連するコンテンツをユーザーのメッセージとともに LLM に渡します。

詳細については、検索コンテキストのドキュメントを参照してください。

ツール

ツールは、LLM が特定のアクションを実行したり、基本機能では取得できない情報を取得したりするために使用できる外部機能または API です。

詳細については、ツールのドキュメントを参照してください。

ベクトル埋め込み

埋め込みは、テキストの意味を捉えた数値表現です。類似したテキストを効率的に比較し、取得するために使用されます。AIP Chatbot では、埋め込みが関連するドキュメントやコンテキストの特定を支援し、正確なレスポンスの提供に役立ちます。

コンテキストウィンドウ

コンテキストウィンドウとは、LLM が 1 回に処理できるテキストの量(通常はトークン数で測定)を指します。AIP Chatbot では、コンテキストウィンドウにシステムプロンプト、会話履歴、LLM を支援するために挿入される情報(検索コンテキスト、アプリケーションの状態、ツールを含む)が含まれます。コンテキストウィンドウを超えるとエラーが発生し、インタラクションを続けるために新しいセッションを作成するようユーザーに求めます。

関数としてのチャットボット

チャットボットは関数として公開でき、プラットフォーム上で関数を実行できるあらゆる場所で使用できるようになります。たとえば、開発者は AIP Chatbot を関数として公開することで、AIP Evals で評価したり、Automate でチャットボットのワークフローを自動化したり、Code Repositories でチャットボットを使用したりできます。詳細については、関数としてのチャットボットのドキュメントを参照してください。