MLA機械学習のためのデータ準備
MLエンジニアリングチームが、毎日S3に新規到着する顧客データを使って週次でモデルを再学習するパイプラインを構築しています。過去に、データスキーマの変更や欠損値の急増によって不良データでトレーニングされたモデルが本番環境にデプロイされたインシデントがありました。トレーニング前にデータ品質を自動検証し、問題検出時は後続の学習を中止するゲートを組み込みたいと考えています。最も適切なアプローチはどれですか？
AAmazon CloudWatchのS3メトリクスアラームでファイル数異常を検知し、閾値を超えた場合にSNS通知でチームに手動確認を依頼してから週次トレーニングジョブを開始するフローを設定する
CloudWatchのS3メトリクスはファイル数・サイズなどのストレージメトリクスしか監視できず、列レベルの欠損率増加やデータ型の変更といった品質問題を検出できない。また手動対応が必要なため自動化要件を満たさない。
BAWS Glue Crawlerをスケジュール実行してデータカタログのスキーマを前回と比較し、差分検知時にAWS Glue ETLジョブを停止してスキーマ変更をチームに通知するパイプラインを構築する
AWS Glue Crawlerはスキーマを自動検出してデータカタログを更新する機能が主であり、欠損値の増加・値域外データ・型不整合などの細かなデータ品質問題を列レベルで検証する機能は持っていない。
CSageMaker Data WranglerでS3データのプロファイルを毎回手動で確認し、問題がなければエクスポートしたノートブックからSageMaker Training Jobを手動で起動する
SageMaker Data Wranglerは手動でのデータ探索・変換に優れるが、毎回人手でプロファイルを確認してジョブを起動するフローでは完全自動化が実現できず、週次の本番パイプラインへの組み込みには不適切。
DSageMaker Processing JobでPyDeequによる品質制約（欠損率・型・値域）の自動検証を実行し、違反時にSageMaker PipelinesのCondition Stepで後続トレーニングをスキップする
✓ 正解
PyDeequはAWSが開発したデータ品質検証ライブラリで、欠損率・型・値域などの列レベル制約を定義できる。SageMaker PipelinesのCondition Stepと組み合わせることで、品質違反時に後続トレーニングを自動スキップする完全自動化ゲートを実現できる。
解説
PyDeequ（AWS Deequ）はAWSが開発したデータ品質検証ライブラリで、DataFrame上の列ごとの完全性・型整合性・値域・統計的制約を定義・検証できる。SageMaker Processing Jobで実行することでマネージドな環境での大規模データ検証が可能。SageMaker PipelinesのCondition Stepは評価結果に基づいて後続ステップの実行・スキップを制御でき、品質違反時のトレーニング自動中止ゲートとして機能する。これにより完全自動化されたデータ品質ゲートを実現できる。
選択肢AのAmazon CloudWatch S3メトリクスは、ファイルサイズやオブジェクト数は監視できるが、列レベルの欠損率・値分布・型などのデータ品質問題を検知できず、手動対応も必要となる。
選択肢BのAWS Glue Crawlerはスキーマの検出・更新が主機能であり、欠損値の急増や値域違反などの細かなデータ品質問題の検証には対応していない。
選択肢CのSageMaker Data Wranglerは手動確認ステップが介在するため、完全自動化の要件を満たせず、週次パイプラインへの組み込みに適さない。
ドメイン別正答率・予想スコアでリアルタイムに実力把握
無限ノックでMLAを徹底対策。全問AI生成のオリジナル問題。
無料で演習を始める →