モデルの接続と開発モデルコンテナモデルよくある質問

注: 以下の翻訳の正確性は検証されていません。AIPを利用して英語版の原文から機械的に翻訳されたものです。

よくある質問

Foundry 内でユーザーがアップロードしたすべてのイメージを一元的に確認できる場所はありますか?

はい。Control Panel では、Foundry 管理者がプラットフォームにプッシュされたすべてのイメージを確認できるほか、それらのイメージに存在する脆弱性の確認と公開停止を行えます。

コンテナを使用するモデルはライブデプロイに対応していますか?

はい。コンテナモデルは、ライブデプロイとバッチデプロイで使用できます。

Foundry にプッシュするイメージを作成する際に、使用すべき特定のベースイメージはありますか?

いいえ。標準のベースイメージは提供されておらず、必須のベースイメージもありません。ただし、プッシュするすべてのイメージはイメージの要件に準拠する必要があります。

イメージが公開する必要のある標準 API はありますか?

いいえ。Foundry がイメージとやり取りする方法は、モデルアダプターの実装によって定義されます。カスタムアダプターの例にも示されている一般的なパターンは、特定のポートで入力を待ち受けるようにイメージを構成し、モデルアダプターから POST リクエストを送信するというものです。

コンテナ化されたモデルの最大イメージサイズはいくつですか?

通常、22 GB を超えるイメージは Docker のプッシュステップ中にタイムアウトします。ユースケースでより大きなイメージが必要な場合は、Palantir の担当者にお問い合わせください。

Foundry は Windows ベースのコンテナの実行をサポートしていますか?

いいえ。Foundry の Kubernetes クラスター内のエンティティは Linux マシンであるため、プラットフォームにプッシュするすべてのイメージは Linux プラットフォーム向けにビルドされている必要があります。

モデル内で複数のコンテナを使用できますか?

はい。複数のイメージをモデルバージョンで使用するように構成できますが、オーケストレーションはサポートされていません。実行時にはすべてのコンテナが同時に起動され、コンテナの起動順序を保証することはできません。

コンテナを使用するモデルは、すべての Foundry インスタンスでサポートされていますか?

いいえ。ユーザーが提供するコンテナを使用するすべてのワークフローでは、基盤インフラストラクチャとして Rubix ↗ エンジンが必要です。また、Control Panel でコンテナワークフローを有効にする必要があります。

モデルのテレメトリを有効にするにはどうすればよいですか?

モデルのテレメトリを有効にするには、新しいモデルバージョンを作成し、モデルバージョン作成のステップ3でテレメトリを有効化をオンにします。イメージには /bin/sh にシェル実行可能ファイルが存在し、シェルコマンドの set と tee をサポートしている必要があります。

テレメトリはすべての種類のモデルで動作しますか?

いいえ。コンテナ化されたモデルのテレメトリは、Python トランスフォームとライブデプロイでのみ動作し、バッチデプロイではコンテナログを出力しません。

コンテナにテレメトリに必要なコマンドと設定があるかどうかをテストするにはどうすればよいですか?

docker run --entrypoint /bin/sh <EXAMPLE_IMAGE>:<IMAGE_TAG_OR_DIGEST> -c 'set -a && tee -a' && echo "Telemetry compatible" を実行してテストできます。Telemetry compatible と出力されれば、このコンテナでテレメトリを有効にできます。