MLAMLモデルの開発

MLエンジニアがディープラーニングモデルのトレーニングジョブを実行中に、損失(Loss)が突然減少しなくなりました。トレーニングジョブを停止せずに、ニューラルネットワーク内のテンソル(多次元配列データ)の値をリアルタイムで分析し、勾配消失(学習の勾配が極めて小さくなりパラメータが更新されなくなる現象)を自動検出したいと考えています。最も適切な方法はどれですか?

A
Amazon CloudWatchのトレーニングジョブメトリクスダッシュボードで損失の推移グラフを確認する
CloudWatchは高レベルのメトリクス監視のみでテンソル分析は不可です。
B
Amazon SageMaker Debuggerを有効化してVanishingGradient組み込みルールを設定し、テンソルデータを自動収集・分析する
✓ 正解
SageMaker Debuggerはトレーニング中に重み・勾配・アクティベーション値などのテンソルデータを自動収集し、組み込みルール(VanishingGradient等)でリアルタイムに問題を検出してアラームを発報できます。
C
トレーニングスクリプトにprint文を追加してAmazon CloudWatch Logsでテンソル値を確認する
トレーニングスクリプトにprint文を追加する方法は非効率で本番向けではありません。
D
Amazon SageMaker Experimentsでトレーニングメトリクスをトラッキングし、以前の実験結果と比較する
SageMaker Experimentsはメトリクスの記録・比較が主目的です。

解説

選択肢BのAmazon SageMaker Debuggerは、トレーニング中に重み・勾配・アクティベーション値などのテンソルデータを自動収集し、組み込みルール(VanishingGradient等)でリアルタイムに問題を検出してアラームを発報できます。 選択肢AのAmazon CloudWatchは、高レベルのメトリクス監視のみに対応しており、テンソルデータの詳細分析はできません。 選択肢Cのトレーニングスクリプトにprint文を追加する方法は、非効率で本番環境には適しておらず、リアルタイムの自動検出にもなりません。 選択肢DのAmazon SageMaker Experimentsは、トレーニングメトリクスの記録・比較が主目的であり、テンソルデータのリアルタイム異常検出には対応していません。

ドメイン別正答率・予想スコアでリアルタイムに実力把握

無限ノックでMLAを徹底対策。全問AI生成のオリジナル問題。

無料で演習を始める →
MLA の問題一覧に戻る