AIF生成AIの基礎

Amazon Bedrockでテキスト生成モデルを呼び出す際の推論パラメータ「Top-p(核サンプリング/Nucleus Sampling)」の説明として最も正確なものはどれですか?

A
生成するトークンの最大数を制限するパラメータで、出力テキストの長さを制御する
max_tokensパラメータの説明。
B
予測確率の高いトークンから順に累積確率がp値に達するまでの候補セットを動的に絞り込み、その中からサンプリングする手法
✓ 正解
Top-p(核サンプリング)は確率の高いトークンを上位から積み上げ、累積確率がp(例:0.9)に達した時点の候補セットからランダムに選択する。候補数が文脈によって動的に変わる点が特徴。p=1.0で全トークンが対象になり多様性が最大化される。
C
出力トークン全体の確率分布をスケーリングするパラメータで、高い値ほど出力がランダムになる
temperature(温度)の説明。
D
モデル学習時に使用されるドロップアウト率(Dropout Rate)を制御するパラメータ
モデル学習時のハイパーパラメータであり推論時には無関係。

解説

Top-p(核サンプリング)は確率の高いトークンを上位から積み上げ、累積確率がp(例:0.9)に達した時点の候補セットからランダムに選択する。候補数が文脈によって動的に変わる点が特徴。p=1.0で全トークンが対象になり多様性が最大化される。 選択肢Aはmax_tokens(最大出力トークン数)パラメータの説明です。出力テキストの長さを制限するパラメータであり、サンプリング手法であるTop-pとは役割が全く異なります。 選択肢Cはtemperature(温度)パラメータの説明です。確率分布全体をスケーリングして出力のランダム性・多様性を制御しますが、Top-pは累積確率で候補セットを動的に絞り込む手法であり仕組みが異なります。 選択肢Dはモデル学習時に使用されるドロップアウト率(Dropout Rate)の説明です。ドロップアウトは学習時の正則化手法であり、推論(Inference)時には適用されません。Amazon Bedrockの推論APIパラメータとは無関係です。

ドメイン別正答率・予想スコアでリアルタイムに実力把握

無限ノックでAIFを徹底対策。全問AI生成のオリジナル問題。

無料で演習を始める →
AIF の問題一覧に戻る