注: 以下の翻訳の正確性は検証されていません。AIPを利用して英語版の原文から機械的に翻訳されたものです。

チェックリファレンス

このページでは、利用可能なヘルスチェックの種類について、より詳細なドキュメントを提供します。

カテゴリーチェックの種類対応リソース
ステータススケジュールステータスデータセット
ステータスビルドステータスデータセット、Iceberg テーブル、仮想テーブル
ステータスジョブステータスデータセット、Iceberg テーブル、仮想テーブル
ステータス同期ステータスデータセット
時間ビルド時間データセット
時間データの鮮度データセット
時間同期時間データセット
時間同期の鮮度データセット
時間最終更新からの経過時間データセット、Iceberg テーブル、仮想テーブル
時間同期の最終更新からの経過時間データセット
サイズデータセットのファイル数データセット
サイズデータセットのパーティションデータセット
サイズ行数データセット
サイズトランザクションのファイル数データセット
サイズトランザクションのファイルサイズデータセット
内容許可される列の値データセット
内容近似一意値割合データセット
内容列の正規表現データセット
内容近似列関係データセット
内容日付範囲データセット
内容null の割合データセット
内容数値の平均値データセット
内容数値の中央値データセット
内容数値範囲データセット
内容主キーデータセット、Iceberg テーブル、仮想テーブル
スキーマ列データセット、Iceberg テーブル、仮想テーブル
スキーマ列数データセット
スキーマスキーマデータセット、Iceberg テーブル、仮想テーブル

ステータスチェック

スケジュールステータス

スケジュールの直近のビルドに成功したか失敗したかをチェックします。

ルール構成要素説明選択肢の例必須?
重大度チェック失敗時の重大度中程度、重大Y
エスカレーション連続して失敗した場合に重大度を引き上げるかどうかY, NN
メモ追加のコンテキストを示すメモを追加テキストN
Issuesこのチェックに失敗したときに自動的に Issue を作成Y, NN

スケジュールステータスチェックは、パイプライン、または常に一緒にビルドされるデータセット群のステータスを表します。そのため、最終的なデータセットの作成または更新に至るさまざまなステップ全体のステータスを示します。

ビルドステータス

データセットの直近のビルドに成功したか失敗したかをチェックします。

ルール構成要素説明選択肢の例必須?
重大度チェック失敗時の重大度中程度、重大Y
エスカレーション連続して失敗した場合に重大度を引き上げるかどうかY, NN
メモ追加のコンテキストを示すメモを追加テキストN
Issuesこのチェックに失敗したときに自動的に Issue を作成Y, NN

ビルドステータスチェックは、最終的なデータセットのビルドに至るプロセス全体のステータスを表します。そのため、この最終的なデータセットの作成または更新に至るさまざまなステップ全体のステータスを示します。プロセス中に更新または作成される中間データセットにもビルドステータスのヘルスチェックがある場合、それらのチェックは更新されません。ただし、これらの中間データセットすべてについて、ジョブステータスは更新されます。

ジョブステータス

データセットに対する直近のジョブ実行に成功したか失敗したかをチェックします。

ルール構成要素説明選択肢の例必須?
重大度チェック失敗時の重大度中程度、重大Y
エスカレーション連続して失敗した場合に重大度を引き上げるかどうかY, NN
メモ追加のコンテキストを示すメモを追加テキストN
Issuesこのチェックに失敗したときに自動的に Issue を作成Y, NN

ジョブステータスチェックは、データセットの更新または作成を行うビルドとは独立してトリガーされます。つまり、対象のデータセットがそのビルドの最終的な出力であるかどうかにかかわらず、そのデータセットのビルドのたびにジョブステータスチェックが実行されます。

ジョブステータスチェック、ビルドステータスチェック、スケジュールステータスチェックの使い分け

一般的に、すべてのスケジュールにスケジュールステータスチェックを設定することを推奨します。スケジュールにすでにスケジュールステータスチェックがある場合、同じスケジュールでビルドされるほかのデータセットにジョブステータスチェックを設定することは推奨しません。スケジュール内のいずれかのジョブが失敗すると、スケジュールステータスチェックがトリガーされるためです。

ビルド内のほかのデータセットの更新に成功したかどうかにかかわらず、中間データセットが更新されたかどうかをチェックする場合は、そのデータセットにジョブステータスチェックを使用します。必要に応じて、データセットがビルドの出力であり、そのデータセットを含むすべてのデータセットとビルド全体が成功したことをチェックする場合は、ビルドステータスチェックを使用します。

データセットがビルドの唯一の出力である場合、ビルドステータスとジョブステータスは同じになります。データセットが中間データセットである場合や、ビルドに複数の出力がある場合、そのデータセットのジョブは成功している(または実行されていない)一方で、ビルド内のほかのジョブが失敗し、ビルドの失敗につながると、両者が異なることがあります。

同期ステータス

データセットから別のデータベースへの直近の同期に成功したか失敗したかをチェックします。

ルール構成要素説明選択肢の例必須?
同期先データセットのどの同期を監視するか。特に、データセットが複数の宛先に同期される場合に関係します。phonograph2-cache-worker, jdbc-workerY
重大度チェック失敗時の重大度中程度、重大Y
エスカレーション連続して失敗した場合に重大度を引き上げるかどうかY, NN
メモ追加のコンテキストを示すメモを追加テキストN
Issuesこのチェックに失敗したときに自動的に Issue を作成Y, NN

時間チェック

ビルド時間

ビルドの完了にかかる合計時間がしきい値を満たすかどうかをチェックします。

ルール構成要素説明選択肢の例必須?
ビルド時間ビルドの完了にかかる合計時間(日、分、時間単位)1 から 2 の間、次の値以上 1、次の値以下 1、次の値に等しい 1N
中央値からの偏差最近のビルドの完了時間の中央値との差(近似標準偏差単位)標準偏差 1、最近のビルド 10 回N
重大度チェック失敗の重大度中程度、重大Y
メモ補足のコンテキストを提供するメモを追加しますテキストN
Issuesこのチェックに失敗したときに、自動的に Issue を作成しますY, NN

ビルドステータスのチェックと同様に、ビルド時間のチェックはビルドの最終出力に対してのみ更新されます。より大きなビルドの一部であり、ビルド時間のチェックが設定されている中間データセットについては、チェックは更新されません。

データの鮮度

データセットの最新トランザクションの時刻を、タイムスタンプ列の最大値と比較してチェックします。列のタイムスタンプが行の追加時刻を表している場合、このチェックを使用してデータの鮮度を正確に測定できます。

ルール構成要素説明選択肢の例必須?
列名最終更新時刻を含む列の名前。LAST_UPDATEDY
鮮度の範囲列の最新データを「新鮮」とみなす時間範囲(日、分、時間単位)1 から 2 の間、次の値以上 1、次の値以下 1、次の値に等しい 1Y
重大度チェック失敗の重大度中程度、重大Y
メモ補足のコンテキストを提供するメモを追加しますテキストN
Issuesこのチェックに失敗したときに、自動的に Issue を作成しますY, NN

同期時間

同期の完了にかかる合計時間がしきい値を満たすかどうかをチェックします。

ルール構成要素説明選択肢の例必須?
同期の宛先データセットのどの同期を監視するかを指定します。特に、データセットが複数の宛先に同期する場合に重要です。phonograph2-cache-worker, jdbc-workerY
同期時間同期の完了にかかる合計時間(日、分、時間単位)1 から 2 の間、次の値以上 1、次の値以下 1、次の値に等しい 1N
中央値からの偏差最近の同期の完了時間の中央値との差(近似標準偏差単位)標準偏差 1、最近のビルド 10 回N
重大度チェック失敗の重大度中程度、重大Y
メモ補足のコンテキストを提供するメモを追加しますテキストN
Issuesこのチェックに失敗したときに、自動的に Issue を作成しますY, NN

同期の鮮度

データセットの最新の同期時刻を、日時列の最大値と比較してチェックします。列のタイムスタンプが行の追加時刻を表している場合、このチェックを使用してデータの鮮度を正確に測定できます。

ルール構成要素説明選択肢の例必須?
列名最終更新時刻を含む列の名前。LAST_UPDATEDY
鮮度の範囲列の最新データを「新鮮」とみなす時間範囲(日、分、時間単位)1 から 2 の間、次の値以上 1、次の値以下 1、次の値に等しい 1Y
重大度チェック失敗の重大度中程度、重大Y
メモ補足のコンテキストを提供するメモを追加しますテキストN
Issuesこのチェックに失敗したときに、自動的に Issue を作成しますY, NN

最終更新からの経過時間

データセットが更新されて(新しいトランザクションが発生して)からの総経過時間が、指定したしきい値の条件を満たすかどうかをチェックします。

ルールの構成要素説明選択肢の例必須?
最終更新データセットが更新されてからの総経過時間(日、分、または時間)1 から 2 の間、1 以上、1 以下、1 と等しいN
中央値からの偏差最近のビルドの更新時間の中央値との差(近似標準偏差単位)標準偏差 1、最近のビルド 10 回N
空のトランザクションを無視更新からの経過時間や中央値からの偏差をチェックする際に、空のトランザクションを除外するかどうか。ファイルがないトランザクションは、存在しなかったものとして無視されますY, NY
重大度チェックに失敗した場合の重大度中程度、重大Y
スケジュールチェックを自動または手動で実行するようにスケジュールを設定します自動、カスタムスケジュールY
メモ補足のコンテキストを提供するメモを追加しますテキストN
Issuesこのチェックに失敗した場合に、自動的に Issue を作成しますY, NN

同期の最終更新からの経過時間

データセットが宛先に最後に同期されてからの総経過時間が、指定したしきい値の条件を満たすかどうかをチェックします。

ルールの構成要素説明選択肢の例必須?
最終同期データセットが宛先に最後に同期されてからの総経過時間(日、分、または時間)1 から 2 の間、1 以上、1 以下、1 と等しいN
中央値からの偏差最近のビルドの更新時間の中央値との差(近似標準偏差単位)標準偏差 1、最近のビルド 10 回N
重大度チェックに失敗した場合の重大度中程度、重大Y
メモ補足のコンテキストを提供するメモを追加しますテキストN
Issuesこのチェックに失敗した場合に、自動的に Issue を作成しますY, NN

サイズチェック

データセットのファイル数

データセットの最新のビューに含まれるファイルの総数をチェックします。

ルールの構成要素説明選択肢の例必須?
ファイル数データセットの最新のビューに含まれるファイルの総数1 から 2 の間、次の値以上 1、次の値以下 1、次の値と等しい 1Y
重大度チェック失敗の重大度中程度、重大Y
中央値からの偏差最近のビルドにおけるファイル数の中央値との差(近似標準偏差単位)標準偏差 1、最近のビルド 10 回N
メモ補足情報としてメモを追加テキストN
Issuesこのチェックに失敗したときに自動的にIssue を作成Y, NN

データセットのパーティション

データセットのパーティション分割がパフォーマンス面で適切かどうかをチェックします。

ルールの構成要素説明選択肢の例必須?
メモパーティション分割のチェックは次のように動作します。
- ファイルの総数が50個未満の場合、チェックは常に合格します。
- ファイルの総数が50個以上の場合、少なくとも90%のファイルのサイズが96 MB を超えていれば、チェックは合格します。

チェックに失敗した場合、ファイル間でのデータのパーティション分割がパフォーマンス面で最適ではなく、パーティション分割を改善する必要があることを意味します。
設定するオプションなしN
Issuesこのチェックに失敗したときに自動的にIssue を作成Y, NN

行数

データセット内の行の総数をチェックします。

ルールの構成要素説明選択肢の例必須?
行数データセット内の行の総数500 から 1000 の間、次の値以上 100、次の値以下 1000、次の値と等しい 10Y
重大度チェック失敗の重大度中程度、重大Y
中央値からの偏差最近のビルドにおける行数の中央値との差(近似標準偏差単位)標準偏差 1、最近のビルド 10 回N
メモ補足情報としてメモを追加テキストN
Issuesこのチェックに失敗したときに自動的にIssue を作成Y, NN

行数チェックが最後に成功したチェック結果を基準にするよう設定されている場合、前回合格したチェックで記録された行数に基づいて条件を評価し、失敗したチェックの結果は考慮しません。

トランザクションのファイル数

ログファイルを除き、1回のトランザクションでコミットされたファイルの総数をチェックします。

ルールの構成要素説明選択肢の例必須?
ファイルサイズトランザクションでコミットされたファイルの総数1 から 2 の間、次の値以上 1、次の値以下 1、次の値と等しい 1N
重大度チェック失敗の重大度中程度、重大Y
中央値からの偏差最近のビルドにおけるファイル数の中央値との差(近似標準偏差単位)標準偏差 1、最近のビルド 10 回N
メモ補足情報としてメモを追加テキストN
Issuesこのチェックに失敗したときに自動的にIssue を作成Y, NN

トランザクションのファイルサイズ

ログファイルを除き、1回のトランザクションでコミットされたファイルの合計サイズをチェックします。

ルールの構成要素説明選択肢の例必須?
ファイルサイズトランザクションでコミットされたすべてのファイルの合計サイズ(MB または KB 単位)1 から 2 の範囲、次の値以上 1、次の値以下 1、次の値と等しい 1N
重大度チェック失敗の重大度中程度、重大Y
中央値からの偏差最近のビルドにおけるファイルサイズの中央値からの差(近似標準偏差単位)標準偏差 1、最近のビルド 10 回N
メモ補足のコンテキストを提供するメモを追加しますテキストN
Issuesこのチェックに失敗したときに、自動的に Issue を作成しますY, NN

内容チェック

列の許容値

列の値が許容値のリストと一致するかをチェックします。

ルール構成要素説明選択肢の例必須?
列名チェック対象の列名FIRST_NAMEはい
許容される値上記の列で許容される値John, Janeはい
重大度チェック失敗時の重大度中程度、重大はい
メモ追加のコンテキストを示すメモを追加テキストいいえ
Issuesこのチェックが失敗したときに、自動的にIssue を作成しますはい、いいえいいえ

一意な値の割合の近似値

列の値のうち、一意な値の割合をチェックします。この割合は近似値です。そのため、このチェックは列が主キーかどうか(値が100%一意かどうか)をチェックするのには適していません。代わりに主キーチェックを使用してください。

ルール構成要素説明選択肢の例必須?
列名チェック対象の列名FIRST_NAMEはい
一意な値の割合列内の一意な値の割合(% 単位)10 から 20 の間、50 以上、50 以下、1 と等しいはい
重大度チェック失敗時の重大度中程度、重大はい
メモ追加のコンテキストを示すメモを追加テキストいいえ
Issuesこのチェックが失敗したときに、自動的にIssue を作成しますはい、いいえいいえ

列の正規表現

列の値が特定の正規表現に一致するかをチェックします。

ルール構成要素説明選択肢の例必須?
列名チェック対象の列名FIRST_NAMEはい
正規表現列の値が一致すべき正規表現^Pre, post$, .*any.*はい
重大度チェック失敗時の重大度中程度、重大はい
メモ追加のコンテキストを示すメモを追加テキストいいえ
Issuesこのチェックが失敗したときに、自動的にIssue を作成しますはい、いいえいいえ

列間の関係の近似値

このチェックでは、2列間の類似度の推定値を割合で示します。完全一致をチェックするには、代わりにデータが満たすべき条件を使用してください。

ルール構成要素説明選択肢の例必須?
別のデータセット比較対象のデータセット/Users/John Appleseed/Stock_Prices_Latestはい
列1の名前チェックが設定されているデータセットの列名FIRST_NAMEはい
列2の名前別のデータセットの列名f_nameはい
一致率2列が一致する必要がある割合(% 単位)値の 85% が等しいはい
メモ追加のコンテキストを示すメモを追加テキストいいえ
Issuesこのチェックが失敗したときに、自動的にIssue を作成しますはい、いいえいいえ

日付範囲

日付列の値の範囲をチェックします。

ルール構成要素説明選択肢の例必須?
列名チェック対象の列名LAST_UPDATEDはい
許容日付範囲列で許容される日付範囲2017-01-01 – 2018-01-01はい
メモ追加のコンテキストを示すメモを追加テキストいいえ
Issuesこのチェックが失敗したときに、自動的にIssue を作成しますはい、いいえいいえ

Null のパーセンテージ

列内の値のうち、null の値の割合をチェックします。

ルールの構成要素説明選択肢の例必須?
列名チェックする列の名前CUSTOMER_IDY
Null のパーセンテージ列内の値のうち、null の値の割合(% 単位)1 と 2 の間、次の値以上:1、次の値以下:1、次の値と等しい:1N
重大度チェックに失敗した場合の重大度中程度、重大Y
中央値からの偏差最近のビルドにおける null の割合の中央値との差(近似標準偏差単位)標準偏差:1、最近のビルド:10N
メモ補足情報としてメモを追加テキストN
Issuesこのチェックに失敗したときに、自動的に Issue を作成Y, NN

数値の平均

数値列の平均値がしきい値を満たしているかどうかをチェックします。

ルールの構成要素説明選択肢の例必須?
列名チェックする数値列の名前NUM_FAILURESY
平均列の期待される平均値1 と 2 の間、次の値以上:1、次の値以下:1、次の値と等しい:1N
重大度チェックに失敗した場合の重大度中程度、重大Y
前回のチェックとの差列の現在の平均値を、前回のチェック実行時の列の平均値に任意の定数を加算または減算した値と比較前回のチェック + 5 より大きいN
メモ補足情報としてメモを追加テキストN
Issuesこのチェックに失敗したときに、自動的に Issue を作成Y, NN

数値の中央値

数値列の中央値がしきい値を満たしているかどうかをチェックします。

ルールの構成要素説明選択肢の例必須?
列名チェックする数値列の名前NUM_FAILURESY
中央値列の期待される中央値1 と 2 の間、次の値以上:1、次の値以下:1、次の値と等しい:1N
重大度チェックに失敗した場合の重大度中程度、重大Y
前回のチェックとの差列の現在の平均値を、前回のチェック実行時の列の平均値に任意の定数を加算または減算した値と比較前回のチェック + 5 より大きいN
メモ補足情報としてメモを追加テキストN
Issuesこのチェックに失敗したときに、自動的に Issue を作成Y, NN

数値の範囲

数値列の値の範囲をチェックします。

ルールの構成要素説明選択肢の例必須?
列名チェックする数値列の名前NUM_FAILURESY
許容範囲列の許容範囲3-5Y
重大度チェックに失敗した場合の重大度中程度、重大Y
メモ補足情報としてメモを追加テキストN
Issuesこのチェックに失敗したときに、自動的に Issue を作成Y, NN

主キー

列の値が100%一意であり、null ではないことをチェックします。

ルール構成要素説明選択肢の例必須?
列名チェックする列の名前PART_IDはい
メモ補足情報を伝えるメモを追加しますテキストいいえ
Issuesこのチェックに失敗したときに自動的に Issue を作成しますはい、いいえいいえ

スキーマチェック

列

列の存在とデータ型をチェックします。

ルール構成要素説明選択肢の例必須?
列名存在をチェックする列の名前PART_IDはい
存在する列の存在をチェックしますはいはい
タイプ列のデータ型Integerはい
メモ補足情報を伝えるメモを追加しますテキストいいえ
Issuesこのチェックに失敗したときに自動的に Issue を作成しますはい、いいえいいえ

列数

データセットの列の総数をチェックします。

ルール構成要素説明選択肢の例必須?
列数データセットの列の総数50はい
メモ補足情報を伝えるメモを追加しますテキストいいえ
Issuesこのチェックに失敗したときに自動的に Issue を作成しますはい、いいえいいえ

スキーマ

データセットのスキーマをチェックし、選択した比較の種類に準拠していることを確認します(利用可能な種類の詳細については、以下を参照してください)。

ルール構成要素説明選択肢の例必須?
列データセットの列とデータ型を列挙します。データ型の完全一致、または列の存在のみを選択できますデータ型:文字列はい
比較の種類使用する比較ポリシーを指定しますテキストはい
メモ補足情報を伝えるメモを追加しますテキストいいえ
Issuesこのチェックに失敗したときに自動的に Issue を作成しますはい、いいえいいえ

利用可能なスキーマチェックの種類は次のとおりです。

値比較で許容される条件
EXACT_MATCH_ORDERED_COLUMNS列の順序、名前、データ型、および列数をチェックします。
EXACT_MATCH_UNORDERED_COLUMNS列の名前、データ型、および列数をチェックします。順序は問いません。
COLUMN_ADDITIONS_ALLOWED列の名前とデータ型をチェックします。追加の列は許容されますが、列が欠けていてはいけません。
COLUMN_ADDITIONS_ALLOWED_STRICTCOLUMN_ADDITIONS_ALLOWED と同様ですが、データセットに新しい列が追加されるたびに、その列がチェックに追加されます。追加された列は、それ以降欠けていてはいけません。

近似標準偏差

データセットのビルドでは外れ値が生じやすいため、真の標準偏差は使用しません。代わりに、ばらつきの指標としてより頑健な中央絶対偏差(MAD)を使用します。

MAD は、データの中央値からの偏差の絶対値の中央値として定義されます。中央値が X である値 x_1, ..., x_n に対して、これは MAD = median(|x_i - X|) を意味します。

中央絶対偏差に定数を掛けることで、標準偏差を近似できます。

計算式は σ = MAD * 1.4826 です。

詳細については、中央絶対偏差 - Wikipedia ↗ を参照してください。