DEAデータオペレーションとサポート

あるチームのAWS Glue Spark ETLジョブが、入力データ量の増加に伴い処理時間が不安定になり、ワーカーのメモリ不足やデータの偏り(スキュー)が疑われている。コード変更を最小にしてボトルネックを特定したい。最も適した方法はどれか。

A
Glue ジョブで Job Run Insights と Spark UI(ジョブモニタリング)を有効にし、エグゼキュータのメモリ使用率やステージ別の実行時間からボトルネックを分析する
✓ 正解
Job Run Insights と Spark UI はエグゼキュータのメモリ使用状況やステージ/タスク単位の実行時間・データスキューを可視化でき、コード変更なしでボトルネックを特定できる。診断という目的に最も適している。
B
Glue ジョブのワーカータイプを最大の G.8X に変更し、処理時間が安定するかを観察してから原因を切り分ける
ワーカーを最大サイズに変更するのは原因特定ではなく対症的な強化で、コスト増を招く上にスキューが原因の場合は解決しない。ボトルネックの特定という目的に合致しない。
C
CloudTrail のデータイベントで Glue ジョブの API 呼び出しを記録し、呼び出し頻度からボトルネックを特定する
CloudTrailのデータイベントはAPI操作の監査ログであり、Sparkジョブ内部のメモリ使用やステージ実行時間を可視化できないため、性能ボトルネックの診断には利用できない。
D
Glue ジョブのブックマークを有効にして再処理を防ぎ、処理対象データを減らすことでメモリ不足を回避する
ジョブブックマークは処理済みデータの再処理を防ぐ機能で、単一実行内のメモリ不足やデータスキューの診断・解消には寄与しない。ボトルネックの特定という要件も満たさない。

解説

AWS Glue の Job Run Insights と Spark UI(ジョブモニタリング)は、エグゼキュータのメモリ使用状況やステージ/タスク単位の実行時間、データスキューを可視化できる。コード変更なしでボトルネックを特定できるため診断要件に最適。 選択肢Bの ワーカー最大化は対症的でコスト増を招く。 選択肢Cの CloudTrailデータイベントはAPI監査でジョブ内部を可視化できない。 選択肢Dの ジョブブックマークは再処理防止機能で診断には寄与しない。

ドメイン別正答率・予想スコアでリアルタイムに実力把握

無限ノックでDEAを徹底対策。全問AI生成のオリジナル問題。

無料で演習を始める →
DEA の問題一覧に戻る