ML チームが SageMaker の自動ハイパーパラメータチューニング（Automatic Model Tuning）を使用して XGBoost モデルを最適化しています。予算の都合上、トレーニングジョブの実行回数は最大 40 回に制限されており、learning_rate・max_depth・subsample の 3 つのハイパーパラメータを連続値の範囲で探索します。限られたジョブ数で最も効率的に最適な組み合わせを見つけるには、どのチューニング戦略を選択すべきですか？
正解： ベイズ最適化（Bayesian）：過去の試行結果を学習して次の候補をインテリジェントに選択する。 ベイズ最適化（Bayesian）は過去のトレーニングジョブの結果からガウス過程モデルを構築し、有望な領域を優先的に探索するため、少ない試行回数で良い結果を得やすい戦略です。連続値の探索空間に特に適しています。 選択肢Aのグリッドサーチは離散値向きで全組み合わせを網羅するため40回の制限では到底足りません。 選択肢Bのランダムサーチは過去の結果を活用しないため非効率です。 選択肢DのHyperbandは早期打ち切りとリソースの段階的割り当てによる高速化が特徴ですが、最大40回という少ないジョブ数の制約下では早期打ち切りの恩恵が限定的であり、ベイズ最適化の方が少ない試行で収束しやすく最適です。