AIF基盤モデルのアプリケーション
開発者が Amazon Bedrock を使ったアプリケーションを構築していますが、モデルの出力が単調で毎回ほぼ同じ内容が返ってくることに気付きました。より多様で創造的な回答を生成させるために調整すべき推論パラメータとその方向性として正しいものはどれですか?
A最大トークン数(Max tokens)を減らす
最大トークン数(Max tokens)を減らすことは出力の長さの上限を短くするだけであり、多様性には直接影響しません。
B温度パラメータ(Temperature)を上げる
✓ 正解
Temperature(温度)パラメータはモデルの出力のランダム性を制御します。低い値(例:0)では確率が最も高いトークンを選び続けるため単調になります。高い値(例:0.8〜1.0)では確率分布が平坦化され、多様で創造的な出力が生成されます。
Cストップシーケンス(Stop sequences)を追加する
ストップシーケンス(Stop sequences)の追加は生成を終了させる文字列を指定するもので、多様性には影響しません。
DTop-P の値を 0.1 に下げる
Top-P の値を 0.1 に下げることは候補トークンがさらに絞られ単調になり、多様性を低下させます。
解説
Temperature(温度)パラメータはモデルの出力のランダム性を制御します。低い値(例:0)では確率が最も高いトークンを選び続けるため単調になります。高い値(例:0.8〜1.0)では確率分布が平坦化され、多様で創造的な出力が生成されます。
選択肢Aの最大トークン数(Max tokens)を減らすことは出力の長さの上限を短くするだけであり、多様性には直接影響しません。
選択肢Cのストップシーケンス(Stop sequences)の追加は生成を終了させる文字列を指定するもので、多様性には影響しません。
選択肢DのTop-P の値を 0.1 に下げることは候補トークンがさらに絞られ単調になり、多様性を低下させます。
ドメイン別正答率・予想スコアでリアルタイムに実力把握
無限ノックでAIFを徹底対策。全問AI生成のオリジナル問題。
無料で演習を始める →