注: 以下の翻訳の正確性は検証されていません。AIPを利用して英語版の原文から機械的に翻訳されたものです。

比較:Code Repositories、Code Workspaces、Code Workbook

Foundry には、コードベースのデータ変換を記述するための3つの製品、Code Workbook、Code Workspaces、Code Repositories があります。これらの製品には一部重複する機能がありますが、それぞれ異なるワークフローやユーザー層に向けて設計されています。以下のガイドは、ニーズに最も適したツールを判断するためのものです。

Code Repositories は、堅牢な本番用パイプラインの作成や、より高度なガバナンスと精査を必要とするワークフローの支援に推奨します。Code Repositories を使用すると、データエンジニアは効率的なパイプラインを一括で作成できます。Code Repositories に適したワークフローの例は次のとおりです。

  • インクリメンタル(差分処理)コンピューティングを必要とする、大規模データを扱う日次パイプライン。
  • 過去のコードの以前のバージョンに戻したり、ユニットテストの合格をコード変更の条件としたりするために、厳格なガバナンス要件が課される、注目度の高いパイプライン。

Code Workspaces は、JupyterLab® と RStudio® Workbench を使用して、使い慣れた IDE と、データセキュリティ、ブランチ、ビルドスケジュール、リソース管理といった Foundry プラットフォームの利点を組み合わせ、探索的分析を迅速かつ効率的に行う場合に推奨します。Code Workspaces に適したワークフローの例は次のとおりです。

  • セルごとにデータ分析を実行し、その内容を共有可能なレポートにエクスポートする
  • データ変換パイプラインや機械学習モデルのプロトタイプを作成する

Code Workbook は、Code Workspaces では扱うのに適さない大規模データに対して、コードベースの分析を実行する場合に推奨します。これらの分析は、1回限りの用途で実行することも、定期的に更新される作成物を生成するために実行することもできます。Code Workbook はパイプラインのプロトタイプ作成にも使用でき、作成したプロトタイプはその後リポジトリに昇格できます。Code Workbook に適したワークフローの例は次のとおりです。

  • 異なる p 値を試して、臨床試験の結果を調査する。
  • 他のユーザーと共有するためのインタラクティブな可視化を作成する。

上記のコードベースの製品に加えて、Pipeline Builder は、本番用データパイプラインを構築および保守するための、Palantir プラットフォームの主要なノーコードアプリケーションです。Pipeline Builder はグラフとフォームベースのインターフェースを使用し、ユーザーがコードを記述せずにデータを統合し、ビジネスロジックに基づく変換を作成できるようにします。パイプラインに Pipeline Builder と Code Repositories のどちらを使用するか検討している場合は、考慮事項:Pipeline Builder と Code Repositoriesを参照してください。

比較概要

Code RepositoriesCode WorkspacesCode Workbook
機能高度なパイプライン探索的分析高度な分析
長期間運用されるデータパイプラインで複雑なワークフローを実現し、パフォーマンスの最適化とコード生成を柔軟に行えます。Foundry の基本要素と連携する使い慣れた IDE を使って、対話的な探索ワークフローを実現します。一般的な分析言語と可視化ライブラリに対応し、データ分析ワークフローを実現します。
対応言語Python, SQL, Java, MesaPython, RPython, R, SQL
対応環境すべての環境Kubernetes 環境のみすべての環境
バッチパイプラインへの対応はいはいはい
インクリメンタル(差分処理)計算はいいいえいいえ
トランスフォーム生成はいいいえいいえ
複数出力のトランスフォームはいはいいいえ
ファイルシステムへのアクセスはいはいはい
可視化への対応いいえはいはい
反復サイクルコードロジックの反復改善データの発見と分析の反復インサイト生成の反復
コードロジックの反復改善を支援するように設計されています。実行時デバッガーとプレビューを使って、トランスフォームのロジックを検証できます。ビルド後に Foundry でデータを分析できます。Foundry のほかの機能とシームレスに連携する広く知られたツールを使って、データの発見と分析を迅速に繰り返せるように設計されています。データからのインサイト生成を支援するように設計されています。すべてのトランスフォームは入力データ全体に対して実行され、対話型コンソールでアドホッククエリを実行でき、Spark の実行モデルは迅速な反復に最適化されています。
データ全体のプレビューデータサンプルをプレビューでき、入力サンプルを事前に絞り込むことができますデータ全体のプレビューデータ全体のプレビュー
デバッガーはいいいえいいえ
コンソールへの対応デバッグモードで対応はいはい
Spark モジュールの管理Spark モジュールはジョブ単位で初期化されます迅速なフィードバックループを実現する Spark を使用しない環境Spark モジュールは即座に対話的操作を行えるよう稼働状態に保たれ、ワークブック単位で初期化されます
運用データパイプライン管理データ探索管理データ分析管理
Foundry のデータ管理ライブラリと、カスタム Python ライブラリの公開に対応しています完全に調整可能な環境で、Code Repositories から公開されたものも含め、pip、CRAN、conda のライブラリを利用できますCode Repositories から公開されたカスタムライブラリを利用できます。ユーザーはロジックの一部をコードテンプレートとして保存でき、ほかのユーザーがポイントアンドクリックで分析できるようになります。
データが満たすべき条件はいいいえいいえ
カスタムライブラリの公開はいいいえいいえ
カスタムライブラリの利用はいはい一部の環境で対応
ポイントアンドクリックのコードテンプレートいいえいいえはい
変更管理ガバナンス柔軟性迅速な変更
重要なパイプラインの安全性と堅牢性を維持するため、変更の追跡可能性とガバナンスを重視しています。高度なレビューと承認のワークフロー、および完全な変更履歴を備えています。ブランチの完全なサポートと Git による自動バージョン管理により、迅速で柔軟な反復を重視しています。軽量なブランチワークフローによる迅速な反復とコラボレーションを重視しています。CI チェックやユニットテストは必須ではありません。
完全な Git ワークフローはいはいいいえ
マージ後のデータコピーいいえいいえはい
セキュリティマーキングの管理と削除はいいいえいいえ
影響分析ビューはいいいえいいえ
高度なコードレビューワークフローはいいいえいいえ
ユニットテストはいいいえいいえ
テーブルの概要

Code Repositories の機能

Code Workspaces の機能
  • Code Workspaces は Foundry 内での JupyterLab® と RStudio® Workbench の埋め込みサポートにより、迅速で効率的な探索ワークフローを実現します。
  • Code Workspaces の対応言語には Python と R があります。
  • Code Workspaces はファイルシステムへのアクセスに対応し、ノートブックベースの分析を完全に柔軟に行えます。
  • Code Workspaces は分散 Spark に対応していないため、ワークスペースのコンピューティング制限内に収まるデータにより適しています。

Code Workbook の機能
  • Code Workbook は、一般的な分析言語と可視化ライブラリに対応した高度な分析ワークフローを備えています。
  • Code Workbook の対応言語には Python、R、SQL があります。
  • Code Workbook はファイルシステムへのアクセスと可視化に対応しています。
  • Code Workbook はインクリメンタル計算、トランスフォーム生成、複数出力のトランスフォームに対応していません。

Code Repositories の反復サイクル
  • Code Repositories はコードロジックの反復改善を支援するように設計されています。ビルド後に Foundry でデータを分析できます。
  • Code Repositories はトランスフォームのロジックを検証するためのデータサンプルのプレビューに対応しており、入力サンプルを事前に絞り込むことができます。
  • Code Repositories は実行時のデバッグに対応しています。
  • Code Repositories では、Spark モジュールはジョブ単位で初期化されます。

Code Workspaces の反復サイクル
  • Code Workspaces は、データの探索と分析を支援するために設計されています。結果は、共有、ダッシュボードへの公開、再利用可能なトランスフォームへの変換、または Code Repositories や Pipeline Builder などの本番運用に対応したパイプラインツールへのエクスポートができます。
  • Code Workspaces は、コードとデータの完全なプレビューを含め、JupyterLab® および RStudio® Workbench IDE の柔軟性を最大限に活用できます。
  • Code Workspaces では、セル単位で反復実行でき、コード実行のフィードバックを即座に得られます。
  • Code Workspaces では Spark モジュールは不要で、環境をアドホックに調整できる、完全にカスタマイズ可能なカーネルが利用可能です。

Code Workbook の反復サイクル
  • Code Workbook は、データからインサイトを生成するために設計されています。すべてのトランスフォームは入力データ全体に対して実行され、Spark の実行モデルは迅速な反復実行のために最適化されています。
  • Code Workbook は、データ全体のプレビューに対応しています。
  • Code Workbook は、トランスフォームのアドホック分析のためにコンソールサポートを提供しています。
  • Code Workbook では、Spark モジュールは即座に対話的な操作を行えるようにウォーム状態に保たれ、ワークブック単位で起動されます。

Code Repositories の操作
  • Code Repositories は、Foundry のデータ管理ライブラリとカスタム Python ライブラリに対応しています。
  • Code Repositories は、データが満たすべき条件、カスタムライブラリの公開、およびカスタムライブラリの利用に対応しています。
  • Code Repositories は、ポイントアンドクリックのコードテンプレートに対応していません。

Code Workspaces の操作
  • Code Workspaces では、Code Repositories から公開されたものを含め、pip、CRAN、conda のライブラリを利用でき、環境を迅速に変更できます。
  • Code Workspaces は、データが満たすべき条件やカスタムライブラリの公開に対応していません。
  • Code Workspaces は、ポイントアンドクリックのコードテンプレートに対応していません。

Code Workbook の操作
  • Code Workbook では、Code Repositories から公開されたカスタムライブラリを利用できます。また、ユーザーはロジックの一部をコードテンプレートとして保存でき、ほかのユーザーがポイントアンドクリックで分析できるようになります。
  • Code Workbook は、データが満たすべき条件やカスタムライブラリの公開に対応していません。
  • Code Workbook では、一部の Spark 環境でカスタムライブラリを利用できます。
  • Code Workbook は、ポイントアンドクリックのテンプレートに対応しています。

Code Repositories の変更管理
  • Code Repositories は、重要なパイプラインの安全性と堅牢性を維持するために、変更の追跡可能性とガバナンスを優先しています。
  • Code Repositories は、完全な変更履歴を提供します。
  • Code Repositories は、完全な Git ワークフロー、セキュリティマーキングの管理と削除、影響分析ビュー、高度なコードレビューワークフロー、および単体テストを提供します。
  • Code Repositories は、マージ後のデータのコピーに対応していません。

Code Workspaces の変更管理
  • Code Workspaces は、完全なブランチサポートと自動 Git バージョン管理により、迅速かつ柔軟な反復作業を優先しています。
  • Code Workspaces は、全面的に Code Repositories に基づいており、その完全な Git ワークフローを活用できます。
  • Code Workspaces は、マージ後のデータのコピーに対応していません。
  • Code Workspaces は、ノートブックの内容の安全なチェックポイントを30日間保存し、ユーザーが任意の状態を安全に保持して取得できるようにします。また、コードのバックアップを Git リポジトリに永続的に保存することもできます。

Code Workbook の変更管理
  • Code Workbook は、軽量なブランチワークフローにより、迅速な反復作業と共同作業を優先しています。Code Workbook では、CI チェックや単体テストは必須ではありません。
  • Code Workbook は、マージ後のデータのコピーに対応しています。
  • Code Workbook は、完全な Git ワークフロー、セキュリティマーキングの管理や削除、影響分析ビュー、高度なコードレビューワークフロー、単体テストを提供していません。

JupyterLab® は NumFOCUS の登録商標です。 RStudio® は Posit™ の商標です。