AIF生成AIの基礎
あるニュースメディア企業が、Amazon Bedrock上の大規模言語モデル（LLM）を使って自社の最新記事に関する質問応答チャットボットを構築したいと考えています。しかし基盤モデルは事前学習時点の知識しか持たず、昨日公開されたばかりの記事内容を回答に反映できないという課題があります。この「データの鮮度」の制約を、モデルの再学習なしに最も適切に解消する方法はどれですか。
A基盤モデルのコンテキストウィンドウサイズを拡大して、より多くのトークンを処理させる
コンテキストウィンドウの拡大は一度に扱えるトークン数を増やすだけで、外部の最新記事をモデルに取り込む手段にはなりません。データ供給の仕組みがないため、鮮度の課題そのものは解消されず不適切です。
B検索拡張生成（RAG）を導入し、最新記事を外部データソースから取得してプロンプトに付与する
✓ 正解
外部データソースから最新記事を検索してプロンプトに付与するRAGは、モデルを再学習させずに学習後の新しい情報を回答へ反映できます。データの鮮度の制約を最小の変更で解消できるため最適です。
Cモデルのtemperatureパラメータを下げて、回答の一貫性と正確性を高める
temperatureは出力のランダム性・多様性を調整するパラメータで、モデルが保持する知識の新しさには一切関与しません。最新記事を反映する機能がないため、この課題の解決には結びつきません。
D基盤モデルをより多くのパラメータを持つ大規模なモデルに置き換える
パラメータ数の多い大規模モデルへ変更しても、知識は事前学習時点で固定される性質は同じです。学習後に公開された記事を反映できないため、データ鮮度の問題は依然として残り不適切です。
解説
基盤モデルは事前学習した時点の知識で固定されており、学習後に発生した最新情報（データの鮮度の問題）には対応できません。検索拡張生成（RAG）は、外部の最新データソースから関連情報を検索し、その内容をプロンプトのコンテキストとしてモデルに渡すことで、モデルを再学習させずに最新情報に基づいた回答を生成できます。
選択肢Aのコンテキストウィンドウ拡大は、一度に処理できるトークン量を増やすだけで、最新記事をモデルに供給する仕組み自体を提供しません。
選択肢Cのtemperature調整は出力のランダム性を制御するパラメータで、モデルが持つ知識の鮮度には影響しません。
選択肢Dのモデル大規模化はパラメータ数が増えても学習時点の知識で固定される点は変わらず、データ鮮度の問題は解決しません。
ドメイン別正答率・予想スコアでリアルタイムに実力把握
無限ノックでAIFを徹底対策。全問AI生成のオリジナル問題。
無料で演習を始める →