無限ノック › DEA 練習問題一覧 › 問題
DEAデータオペレーションとサポート

あるデータエンジニアリングチームは、毎日AWS GlueのETLジョブでAmazon S3のデータレイクにデータを取り込んでいる。取り込んだデータについて、列のNULL率や値の一意性など複数の品質ルールを定義し、品質基準を満たさない場合は後続処理を止めて担当者に通知したい。最小の運用負荷でこれを実現する方法はどれか。

A
AWS Glue Data Quality で DQDL ルールセットを定義し、EvaluateDataQuality トランスフォームをジョブに組み込んで、結果が失敗の場合にジョブを失敗させ EventBridge 経由で通知する
✓ 正解
Glue Data Quality は DQDL でルールを宣言的に定義でき、EvaluateDataQuality トランスフォームをETLジョブに直接組み込める。ルール失敗時にジョブを停止し EventBridge で通知できるため、追加実装が最小で運用負荷が低く要件に合致する。
B
AWS Lambda 関数に Python の検証ロジックを実装し、S3 イベント通知でトリガーして品質をチェックし、不合格時に Amazon SNS で通知する
Lambda にカスタム検証ロジックを実装する方式は、複数ルールの保守やスケーリングを自前で行う必要があり運用負荷が高い。大規模データでは15分の実行時間制限にも抵触しうるため最小運用に反する。
C
Amazon Athena で品質チェック用の SQL クエリを定期実行し、結果を Step Functions で評価して不合格時に Amazon SNS で通知する
Athena と Step Functions の構成は実現可能だが、品質ルールを SQL で個別に記述・保守し、ジョブへの組み込みも別管理となるため運用負荷が高く、宣言的なルール管理にならない。
D
AWS Glue DataBrew のプロファイルジョブを実行してデータ統計を取得し、CloudWatch アラームで品質低下を検知して通知する
DataBrew のプロファイルジョブは統計の可視化が目的で、合否でパイプラインを自動停止する制御フローを標準では持たない。ルールベースのゲートとして後続処理を止める用途には不向き。

解説

AWS Glue Data Quality は DQDL(Data Quality Definition Language)で品質ルールを宣言的に定義し、EvaluateDataQuality トランスフォームとして ETL ジョブに直接組み込める。ルール違反時にジョブを失敗させ、EventBridge 経由で通知できるため追加実装が最小で運用負荷が低い。 選択肢Bの AWS Lambda は検証ロジックを自前で実装・保守する必要があり運用負荷が高い。 選択肢Cの Amazon Athena はSQLでのルール記述とジョブ外の管理が必要。 選択肢Dの AWS Glue DataBrew はプロファイル可視化が目的で自動ゲート制御に不向き。

ドメイン別正答率・予想スコアでリアルタイムに実力把握

無限ノックでDEAを徹底対策。全問AI生成のオリジナル問題。

無料で演習を始める →
← DEA の問題一覧に戻る