注: 以下の翻訳の正確性は検証されていません。AIPを利用して英語版の原文から機械的に翻訳されたものです。
以下の基本概念は、AIP Chatbot(旧称 AIP Agent Studio)を理解し、最大限に活用するために不可欠です。これらの概念の適用方法については、はじめにチュートリアルで詳しく説明しています。
AIP Chatbot(旧称 AIP エージェント)は、企業固有の情報とツールを備えた対話型アシスタントです。
アプリケーションの状態は、以前はパラメーターと呼ばれていたもので、LLM の動作をカスタマイズして制御する、プロンプト内のアプリケーション変数です。動的な入力を可能にし、タスクの要件に基づいて調整できます。
指示、ツールの説明、変数の説明は、LLM 用の生のシステムプロンプトにまとめられます。これにより、利用可能なコンテキストを使用してタスクを完了する方法を LLM に教えます。
指示は、タスクの概要など、最も重要な情報から始めてください。その後に、必要なデータと、アプリケーションの状態およびツールの使用に関するガイダンスを記載します。
各ツールおよび変数の説明には、そのコンテキストをいつ、どのように使用するかについて、LLM に具体的な手順を示してください。LLM がアクセスできるのは、明示的に提供した情報のみであることに留意してください。
検索拡張生成は、外部データソースを活用して、関連する情報を LLM に動的に提供します。この方法では、最新かつコンテキストに適したデータに基づくレスポンスを確保することで、LLM のレスポンスを向上させます。
検索コンテキストとは、各メッセージに応じて取得され、レスポンスの生成に使用される具体的な情報を指します。処理の流れは次のとおりです。
詳細については、検索コンテキストのドキュメントを参照してください。
ツールは、LLM が特定のアクションを実行したり、基本機能では取得できない情報を取得したりするために使用できる外部機能または API です。
詳細については、ツールのドキュメントを参照してください。
埋め込みは、テキストの意味を捉えた数値表現です。類似したテキストを効率的に比較し、取得するために使用されます。AIP Chatbot では、埋め込みが関連するドキュメントやコンテキストの特定を支援し、正確なレスポンスの提供に役立ちます。
コンテキストウィンドウとは、LLM が 1 回に処理できるテキストの量(通常はトークン数で測定)を指します。AIP Chatbot では、コンテキストウィンドウにシステムプロンプト、会話履歴、LLM を支援するために挿入される情報(検索コンテキスト、アプリケーションの状態、ツールを含む)が含まれます。コンテキストウィンドウを超えるとエラーが発生し、インタラクションを続けるために新しいセッションを作成するようユーザーに求めます。
チャットボットは関数として公開でき、プラットフォーム上で関数を実行できるあらゆる場所で使用できるようになります。たとえば、開発者は AIP Chatbot を関数として公開することで、AIP Evals で評価したり、Automate でチャットボットのワークフローを自動化したり、Code Repositories でチャットボットを使用したりできます。詳細については、関数としてのチャットボットのドキュメントを参照してください。