データ接続と統合Java基本的なトランスフォーム詳細設定

注: 以下の翻訳の正確性は検証されていません。AIPを利用して英語版の原文から機械的に翻訳されたものです。

詳細設定

このセクションでは、Java トランスフォームで詳細設定オプションを使用する方法について説明します。

最大ビルド時間

データの鮮度を確保したり、コストを抑えたりするために、ジョブの実行時間を制限したい場合があります。たとえば、外部サービスとやり取りしているジョブが応答しなくなった場合、完了しない可能性があるため、実行時間に制限を設けておくと便利です。 Code Repositories では、以下に示すように MaxAllowedDuration デコレーターと Compute デコレーターを使用して、ジョブの実行時間を制限できます。

Copied!
1 2 3 4 5 6 7 8 9 10 11 12 13 14 15 16 17 18 package myproject.datasets; import com.palantir.transforms.lang.java.api.*; import java.time.Duration; import org.apache.spark.sql.Dataset; import org.apache.spark.sql.Row; public final class FilterTransform { @MaxAllowedDuration(value = "PT2H") @Compute public void myComputeFunction( @Input("/examples/students_hair_eye_color") FoundryInput myInput, @Output("/examples/students_hair_eye_color_filtered") FoundryOutput myOutput) { Dataset<Row> inputDf = myInput.asDataFrame().read(); myOutput.getDataFrameWriter(inputDf.filter("eye = 'Brown'")).write(); } }

MaxAllowedDuration は Duration 値を受け取りますが、ジョブは5分ごとにポーリングされるため、値が PT3M(ISO 8601 形式)の場合は5分で、PT7M の場合は10分でキャンセルされます。それ以外の値でも同様です。