MLAMLモデルの開発
あるチームが Amazon SageMaker Automatic Model Tuning（Hyperparameter Tuning Job）を使用して XGBoost 分類モデルの学習率・max_depth・subsample などのハイパーパラメータを最適化しようとしています。探索空間は連続値と整数値を含み、合計 80 回のトレーニングジョブを実行できる予算があります。最も少ない試行回数で高精度なハイパーパラメータ組み合わせを発見するために推奨される探索戦略はどれか。
Aグリッドサーチ（Grid Search）：指定したパラメータ値の全組み合わせを網羅的に評価する
グリッドサーチはSageMaker では提供されていますが、連続値パラメータに不向きで組み合わせ爆発が起きます。
Bランダムサーチ（Random Search）：各試行で独立してランダムにパラメータをサンプリングする
ランダムサーチはSageMaker では提供されていますが、各試行が独立しており過去の結果を活用しません。
Cベイズ最適化（Bayesian Optimization）：過去の試行結果を確率モデルで学習し、次の探索点を効率的に選択する
✓ 正解
SageMaker Hyperparameter Tuning のデフォルト戦略はベイズ最適化です。各試行の結果をガウス過程（確率モデル）で学習し、目的関数が改善しそうな領域を優先して次の探索点を決定します。そのためグリッドサーチやランダムサーチより少ない試行で良い結果を得られます。
D手動探索：ドメイン知識に基づき有望なパラメータ値を個別に指定して逐次評価する
手動探索は効率性を欠き大量の試行が必要になります。
解説
SageMaker Hyperparameter Tuning のデフォルト戦略はベイズ最適化です。各試行の結果をガウス過程（確率モデル）で学習し、目的関数が改善しそうな領域を優先して次の探索点を決定します。そのためグリッドサーチやランダムサーチより少ない試行で良い結果を得られます。
選択肢AのグリッドサーチはSageMaker では提供されていますが、連続値パラメータに不向きで組み合わせ爆発が起きます。
選択肢BのランダムサーチはSageMaker では提供されていますが、各試行が独立しており過去の結果を活用しません。
選択肢Dの手動探索は効率性を欠き大量の試行が必要になります。
ドメイン別正答率・予想スコアでリアルタイムに実力把握
無限ノックでMLAを徹底対策。全問AI生成のオリジナル問題。
無料で演習を始める →