生成AIアプリケーションを開発しているチームが、テキスト生成の「創造性」と「一貫性」のバランスを調整する必要があります。クリエイティブなマーケティングコピー生成では多様な出力が欲しく、コード生成では決定論的で一貫した出力が必要です。この調整に使用するモデルパラメータはどれですか?
Temperatureは生成AIの出力多様性を制御するパラメータです。値が高い(例:1.0以上)と確率分布が均一化され創造的・多様な出力になります。値が低い(例:0.1前後)と最も確率の高いトークンが優先され一貫した決定論的な出力になります。コード生成には低温度、創作コンテンツには高温度が適しています。Top-Kも多様性に関係しますが、用途の使い分けとして最も直接的なパラメータはTemperatureです。 選択肢AのMax Tokensは、生成する出力の最大長を制限するパラメータであり、多様性制御には直接関係しません。 選択肢BのTop-K(上位K個サンプリング)は、確率上位K個のトークンのみをサンプリング対象とするパラメータであり、多様性に関係しますが、温度ほど直接的ではありません。 選択肢DのEmbedding Dimension(埋め込み次元数)は、テキストのベクトル表現の次元数を指定するパラメータであり、出力の多様性制御とは無関係です。