注: 以下の翻訳の正確性は検証されていません。AIPを利用して英語版の原文から機械的に翻訳されたものです。
以下は、Modeling Objective のライブデプロイに関するよくある質問です。ライブデプロイは、モデルページから設定する直接デプロイとは異なります。ライブデプロイの作成と設定、およびライブデプロイと直接デプロイの違いについて、詳しくはこちらをご覧ください。
モデルは、公開済みモデルのモデルアダプターで設定された conda パッケージや環境とともにパッケージ化されます。Palantir は、本番環境でモデルを提供するために必要な軽量パッケージも追加します。
デフォルトでは、ライブデプロイは1回のリクエストで最大 50 MB を受け付けます。この上限は設定可能です。詳細については、Palantir の担当者にお問い合わせください。
はい。Modeling Objective のライブデプロイの稼働時間は、監視ビューで監視できます。
送信環境に非公開ライブラリと公開ライブラリをインポートできます。
はい。ライブデプロイを作成する権限は、バッチデプロイを作成する権限とは別に設定できます。設定方法については、Palantir の担当者にお問い合わせください。
はい。現在、Foundry は、Palantir のコンテナインフラストラクチャ内にデプロイされている場合、トラフィックに応じたスケーリングを提供しています。
デフォルトでは、各デプロイは2個のレプリカで設定され、アップグレード中にダウンタイムが発生しないようになっています。デフォルトの CPU とメモリーの使用量も少ないため、デフォルトのコストプロファイルは低くなっています。
より大きなモデルや、より高い負荷が期待される場合に対応するため、個々のデプロイでこの設定を上書きできます。また、Control Panel から、すべてのライブデプロイのデフォルトプロファイルを上書きできます。
はい。Python モデルの GPU サポートは開発のベータ版段階にあり、お使いのエンロールメントでは利用できない場合があります。開発が活発に進められている間は、機能が変更される可能性があります。
はい。個々のデプロイページからライブデプロイを無効化できます。
再び使用する準備ができたら、UI から再度有効化することもできます。その際、デプロイは最新のリリースにアップグレードされます。
また、デプロイを削除することもできます。ただし、この操作は取り消せず、同じ対象 RID を維持できなくなります。
はい。ただし、ご自身または権限を持つ管理者が、ライブデプロイのネットワークエグレスを設定する必要があります。
推論の実行は同期処理であるため、デフォルトのダイアログ読み取りタイムアウトにより、5分でタイムアウトが発生します。