無限ノック › DEA 練習問題一覧 › 問題
DEAデータの取り込みと変換

あるデータエンジニアリングチームは、毎晩実行する複数ステップのデータパイプラインを構築しています。パイプラインのステップは次のとおりです。 ①AWS Glue ETLジョブでS3の生データを変換する ②Amazon Athenaクエリでデータ品質を検証する ③品質チェック合格時のみAmazon Redshift Data APIでデータをロードし、不合格時はAmazon SNSでアラートを送信する ④処理済みのS3ファイルをアーカイブ用プレフィックスに移動する このパイプラインには条件分岐・ステップ間の依存関係管理・リトライロジック・エラー通知が必要です。最も適切なオーケストレーションサービスはどれですか?

A
AWS Glue Workflowを使用してジョブとクローラーの実行順序を管理する
Glueジョブとクローラーのオーケストレーションのみをサポートするサービスで、Athena・Redshift Data API・SNSなどGlue外のサービスとの連携や条件分岐・リトライ処理には対応していません。複数サービスを跨ぐ複合パイプラインのオーケストレーションには不十分です。
B
Amazon EventBridge SchedulerでAWS Lambda関数を起動し、各ステップをLambdaで実装する
EventBridge Schedulerによるスケジュール起動は実現できますが、条件分岐・リトライ・エラーハンドリングのロジックをすべてLambdaコードとして実装・保守する必要があります。パイプライン管理が複雑化しオーケストレーションのベストプラクティスとはいえません。
C
AWS Step Functions Standard Workflowを使用してパイプラインを定義する
✓ 正解
Step Functions Standard WorkflowはASLでステートマシンを定義し、Glue・Athena・Redshift Data API・SNSなど100以上のサービスをSDKインテグレーションで直接呼び出せます。Choice Stateで条件分岐、Retry/Catchでエラーハンドリングを宣言的に記述でき、実行状態の可視化も容易です。
D
Amazon Managed Workflows for Apache Airflow(MWAA)でDAGを記述してオーケストレーションする
Apache Airflowベースの高機能なオーケストレーションが可能ですが、PythonとAirflow DAGの専門知識が必要です。マネージドクラスターの維持コストもStep Functionsと比較して高く、このシナリオの要件に対しては過剰なソリューションとなります。

解説

AWS Step Functions Standard WorkflowはAmazon States Language(ASL)でステートマシンを定義し、AWS Glue・Amazon Athena・Amazon Redshift Data API・Amazon SNSなど100以上のAWSサービスをSDKインテグレーションで直接呼び出せます。Choice Stateで品質チェック結果による条件分岐を宣言的に記述でき、RetryとCatchの設定で細粒度のエラーハンドリングが実現できます。各ステップの実行状態はコンソールでリアルタイムに可視化され、Lambdaなどの中間コードを挟まずに複合パイプラインを構築できます。 選択肢AのAWS Glue WorkflowはGlueジョブとクローラーのみをオーケストレーションできる機能で、Athena・Redshift・SNSなどGlue以外のサービスとの条件分岐には対応していない。 選択肢BのAmazon EventBridge Scheduler + AWS Lambdaはスケジュール起動は可能ですが、条件分岐・リトライ・エラーハンドリングのロジックをすべてLambdaコードとして実装・保守する必要があり複雑化する。 選択肢DのAmazon MWAAは高機能なオーケストレーションが可能ですが、PythonとAirflow DAGの専門知識が必要で運用コストもStep Functionsより高く、このシナリオには過剰なソリューション。

ドメイン別正答率・予想スコアでリアルタイムに実力把握

無限ノックでDEAを徹底対策。全問AI生成のオリジナル問題。

無料で演習を始める →
← DEA の問題一覧に戻る