注: 以下の翻訳の正確性は検証されていません。AIPを利用して英語版の原文から機械的に翻訳されたものです。

ストリーム監視

ストリーム監視では、ストリームの正常性に関するアラートを有効にできます。

ストリームは、次の条件を満たしている場合に「正常」と見なされます。

  • ソースシステムから新しいレコードを取り込んでいる。
  • レコードを処理し、ユーザー向けの Foundry アプリケーションに書き込んでいる。
  • 受信レコードの有無にかかわらず、定期的に状態を永続化している。これはパイプラインにのみ適用されます。

一定期間に取り込まれたレコード数または出力されたレコード数がユーザー定義のしきい値を下回ったときに発生する取り込みアラートと出力アラートを設定して、パイプラインの正常性を監視できます。

たとえば、取り込みモニターは過去5分間にストリームが取り込んだレコードが0件の場合にアラートを発生させ、出力モニターは過去30分間にストリームが出力したレコードが1000件未満の場合にアラートを発生させることができます。

モニターを作成する

  1. Data Health アプリケーションを開きます。
  2. 監視ビュータブを選択します。
  3. 監視ビューを作成するか、既存の監視ビューを選択します。
  4. 監視管理タブに移動します。
  5. 新しいアラートを追加を選択します。
  6. 監視ルールを追加を選択します。

取り込みモニターを設定する

レコードのフローが決定論的なストリームにのみ、モニターを適用してください。

5分や30分など、さまざまな固定期間がサポートされています。

取り込みモニターは、次のことを確認します。

  • ソースシステムがレコードを生成し、Foundry に送信している。
  • Foundry が取り込みストリームのライブビューにレコードを書き込んでいる。

次の手順で設定します。

  1. モニターを作成する手順に従います。
  2. リソースの種類としてストリーミングデータセットを選択します。
  3. 監視する取り込みストリームを追加し、次へを選択します。
  4. 取り込みストリームモニターカードで + 追加を選択します。
  5. 取り込まれたレコード数モニターを選択し、期間を5分または30分に設定します。
  6. しきい値を設定し、次へを選択します。
  7. モニターを確認し、監視ルールを保存を選択します。

例:

  • 取り込まれたレコード数で期間を5分、しきい値を0に設定:過去5分間にストリームがライブビューに書き込んだレコードが0件の場合にアラートを発生させます。
  • 取り込まれたレコード数で期間を30分、しきい値を1000に設定:過去30分間にストリームがライブビューに書き込んだレコードが1000件以下の場合にアラートを発生させます。

パイプラインモニターを設定する

パイプラインモニターも、取り込みモニターを設定する場合と同じワークフローに従って設定できます。ただし、ストリーミングパイプラインで利用可能なモニターには、以下に示す重要な違いがあります。

Checkpoint メトリクス

  • Checkpoint のライブネス:設定した時間内にストリームが Checkpoint を作成しなかった場合にアラートを発生させます。このモニターは、パフォーマンス低下を示す信頼性の高い指標であるため、本番ストリームでの使用を強く推奨します。Checkpoint の作成について詳しくはこちら。
  • 最後の Checkpoint の所要時間:Checkpoint の所要時間が設定したしきい値を超えて増加した場合にアラートを発生させます。
  • Checkpoint トリガーの失敗:Checkpoint のトリガーに連続して失敗した場合にアラートを発生させます。
  • Checkpoint の連続失敗:Checkpoint に連続して失敗した場合にアラートを発生させます。

パフォーマンスメトリクス

  • 合計ラグ:ジョブの処理が入力に対して設定したレコード数だけ遅れた場合にアラートを発生させます。これはパフォーマンスの低下を示します。
  • 合計スループット:Checkpoint あたりのレコード数が設定したしきい値を下回るか上回る場合にアラートを発生させます。これは上流の入力の変化を示します。
  • 使用率:ストリームの容量の使用率が設定したしきい値を超えた場合にアラートを発生させます。このしきい値はストリーミングプロファイルを使用して設定できます。

出力モニターを設定する

出力モニターは、パイプラインが次の処理を行っていることを確認します。

  • 取り込んだレコードを処理している。
  • 処理したレコードをユーザー向けの Foundry アプリケーションに書き込んでいる。

ストリーム監視がベータ版の段階では、監視できるデータ形式は時系列と地理時系列のみです。

時系列

時系列に書き込まれたレコードを監視するには、時系列同期にアラートを設定します。

  1. モニターを作成する手順に従います。
  2. リソースの種類としてタイムシリーズの同期を選択します。
  3. 監視する時系列同期を追加し、次へを選択します。
  4. モニターカードで + 追加を選択します。
  5. Epoch に書き込まれたポイント数を選択し、期間を5分または30分に設定します。
  6. しきい値を設定し、次へを選択します。
  7. モニターを確認し、監視ルールを保存を選択します。

例:

  • 時系列 DB に書き込まれたポイント数で期間を5分、しきい値を0に設定:過去5分間に時系列同期が書き込んだレコードが0件の場合にアラートを発生させます。
  • 時系列 DB に書き込まれたポイント数で期間を30分、しきい値を1000に設定:過去30分間に時系列同期が書き込んだレコードが1000件以下の場合にアラートを発生させます。

地理時系列観測

地理時系列観測を監視するには、元となる観測データセットにアラートを設定します。

  1. モニターを作成する手順に従います。
  2. リソースの種類として地理的時間的観測を選択します。
  3. 監視する観測データセットを追加し、次へを選択します。
  4. モニターカードで + 追加を選択します。
  5. 送信された地理時系列観測数を選択し、期間を5分または30分に設定します。
  6. しきい値を設定し、次へを選択します。
  7. モニターを確認し、監視ルールを保存を選択します。

例:

  • 送信された地理時系列観測数で期間を5分、しきい値を0に設定:過去5分間に地理時系列同期が地理時系列に送信した観測が0件の場合にアラートを発生させます。
  • 送信された地理時系列観測数で期間を30分、しきい値を1000に設定:過去30分間に地理時系列同期が地理時系列に送信した観測が1000件以下の場合にアラートを発生させます。

エラーデータセットではなく、元となる観測データセットにモニターを設定します。送信された地理時系列観測数は、地理時系列の取り込みからレコードが送信されたことのみを確認するものであり、取り込み後に地理時系列サービスがレコードを処理したことを保証するものではありません。

メトリクスを表示する

モニターの基になるメトリクスを表示するには、監視ビューの監視管理タブでモニタールールの行を選択します。

メトリクスは、対象範囲が1つのストリーミングモニターまたは時系列モニターでのみ利用可能です。

ストリームモニターのメトリクスを表示する

モニター通知

監視ビューのサブスクリプションを管理するタブで通知を設定できます。

メールアラートを設定するには、次の手順に従います。

  1. グループにユーザーを追加を選択します。
  2. ユーザーを検索して選択します。
  3. 通知を受け取る重大度を選択します。

PagerDuty アラートを設定するには、次の手順に従います。

  1. 新しい PagerDuty 統合を作成するを選択します。
  2. 統合名を設定します。
  3. PagerDuty で統合を作成します。
  4. 統合キーをコピーし、統合キーに貼り付けます。
  5. アラートの重大度を選択します。

モニター通知

発生中のアラート

監視ビューのアラートのトラブルシュートタブで、発生中のアラートを表示できます。

発生中のアラート