無限ノック › MLA 練習問題一覧 › 問題
MLAMLソリューションの監視、メンテナンス、セキュリティ

機械学習チームが、SageMaker Training JobでTransformerモデルのファインチューニングを実施しています。学習開始から数時間後に損失(loss)の改善が停滞し始めました。チームは、トレーニング中にリアルタイムでテンソルの状態を監視し、勾配消失やオーバーフィッティングなどの問題を自動検出したいと考えています。トレーニングスクリプトを変更せずに実現できる、最も適切な方法はどれですか?

A
SageMaker Debuggerの組み込みルール(VanishingGradient、LossNotDecreasingなど)をTraining Jobのデバッガー設定に追加し、問題検出時にAmazon EventBridgeでアラートを受け取るよう構成する
✓ 正解
SageMaker Debugger の組み込みルールは、Training Job の設定に追加するだけでスクリプト変更なしに有効になります。リアルタイムでテンソルを収集・分析し、勾配消失や損失停滞を自動検出してアラートを発報できます。
B
カスタムコールバック関数をトレーニングスクリプトに組み込み、各エポックの損失値と勾配ノルムをAmazon CloudWatch Metricsにpublishしてアラームで監視する設定を追加する
カスタムコールバックはトレーニングスクリプトへのコード追加が必要であり、「スクリプトを変更しない」という要件に反します。また勾配レベルの詳細なテンソル監視には実装コストがかかります。
C
Training Job完了後にS3に保存されたチェックポイントを取得し、SageMaker Processingジョブで勾配の統計量を後処理して学習中の異常箇所を検出するパイプラインを構築する
Training Job完了後の後処理では、問題が発生してからジョブが完了するまでの時間が無駄になります。リアルタイムでの問題検出と早期停止を実現するには不十分な方法です。
D
SageMaker Experimentsでトレーニングメトリクスを継続的に記録し、複数の実験実行を比較することでどのハイパーパラメータが損失の停滞を引き起こしているかを特定する
SageMaker Experiments は複数トレーニング実行のメトリクス・パラメータを比較するためのツールです。単一実行内でのリアルタイム異常検出や自動アラート機能はなく、この要件には対応できません。

解説

SageMaker Debugger は、トレーニング中のテンソル(重み、勾配、アクティベーション、損失)をリアルタイムで S3 にキャプチャし、組み込みルールで問題を自動検出する機能です。VanishingGradient(勾配消失)、LossNotDecreasing(損失の停滞)、Overfit(過学習)などの組み込みルールを Training Job の Debugger 設定に追加するだけで有効になり、トレーニングスクリプトの変更は不要です。問題が検出されるとトレーニングジョブを自動停止させたり、Amazon EventBridge を通じてアラートを送信したりできます。 選択肢Bのカスタムコールバックは、トレーニングスクリプト内にコードを追加する必要があり、「スクリプトを変更せずに」という要件を満たしません。 選択肢CのProcessingによる後処理は、Training Job 完了後にしか実施できないため、リアルタイムでの問題検出や早期停止は実現できません。 選択肢DのSageMaker Experimentsは複数実行のメトリクスを事後に比較するツールであり、単一の実行内でのリアルタイム異常自動検出機能は持ちません。

ドメイン別正答率・予想スコアでリアルタイムに実力把握

無限ノックでMLAを徹底対策。全問AI生成のオリジナル問題。

無料で演習を始める →
← MLA の問題一覧に戻る