モデルの接続と開発モデルコンテナモデルよくある質問

注: 以下の翻訳の正確性は検証されていません。AIPを利用して英語版の原文から機械的に翻訳されたものです。

FAQ

Foundry 内でユーザーがアップロードしたすべてのイメージをまとめて表示できる場所はありますか?

はい。Control Panel では、Foundry 管理者がプラットフォームにプッシュされたすべてのイメージを表示できるほか、イメージに存在する脆弱性を確認し、該当するイメージの公開を停止することもできます。

コンテナを基盤とするモデルはライブデプロイに対応していますか?

はい。コンテナモデルはライブデプロイとバッチデプロイで使用できます。

Foundry にプッシュするイメージを作成する際に、使用すべき特定のベースイメージはありますか?

いいえ。標準のベースイメージは提供されておらず、使用も必須ではありません。ただし、プッシュするすべてのイメージはイメージの要件に準拠する必要があります。

イメージが公開する必要のある標準 API はありますか?

いいえ。Foundry がイメージとどのようにやり取りするかは、モデルアダプターの実装によって定義されます。このカスタムアダプターの例に示されている一般的なパターンは、特定のポートで入力を待ち受けるようにイメージを構成し、モデルアダプターから POST リクエストを送信する方法です。

コンテナ化されたモデルの最大イメージサイズはいくつですか?

通常、22 GB を超えるイメージは Docker のプッシュステップ中にタイムアウトします。ユースケースでより大きなイメージが必要な場合は、Palantir の担当者にお問い合わせください。

Foundry は Windows ベースのコンテナの実行をサポートしていますか?

いいえ。Foundry の Kubernetes クラスター内のエンティティは Linux マシンであるため、プラットフォームにプッシュするすべてのイメージは Linux プラットフォーム向けにビルドされている必要があります。

モデル内で複数のコンテナを使用できますか?

はい。モデルバージョンの基盤として複数のイメージを設定できますが、オーケストレーションはサポートされていません。実行時にはすべてのコンテナが同時に起動されるため、コンテナの起動順序を保証することはできません。

コンテナを基盤とするモデルは、すべての Foundry インスタンスでサポートされていますか?

いいえ。ユーザーが用意したコンテナを使用するすべてのワークフローでは、基盤インフラストラクチャとして Rubix ↗ エンジンが必要です。また、Control Panel でコンテナワークフローを有効にする必要があります。

モデルのテレメトリを有効にするにはどうすればよいですか?

モデルのテレメトリを有効にするには、新しいモデルバージョンを作成し、モデルバージョン作成のステップ3でテレメトリを有効化をオンにします。イメージには /bin/sh にシェルの実行可能ファイルが必要で、シェルコマンドの set と tee をサポートしている必要があります。

テレメトリはすべての種類のモデルで機能しますか?

いいえ。コンテナ化されたモデルのテレメトリは、Python トランスフォームとライブデプロイでのみ機能し、バッチデプロイではコンテナログを発行しません。

コンテナにテレメトリに必要なコマンドと設定があるかどうかをテストするにはどうすればよいですか?

docker run --entrypoint /bin/sh <EXAMPLE_IMAGE>:<IMAGE_TAG_OR_DIGEST> -c 'set -a && tee -a' && echo "Telemetry compatible" を実行するとテストできます。Telemetry compatible が出力されれば、このコンテナでテレメトリを有効にできます。