AIF生成AIの基礎
ある法務チームが Amazon Bedrock の大規模言語モデルで、1件あたり数万トークンに及ぶ長大な契約書全文を一度に渡して要約させています。ところが契約書が長くなると、文書前半の条項が要約に反映されず欠落する事象が頻発します。この現象の主な技術的原因として最も適切なものはどれですか。
Aモデルが一度に処理できるトークン数の上限（コンテキストウィンドウ）を入力が超過している
✓ 正解
入力と出力の合計トークンには上限があり、長大な契約書がこの上限を超えると超過分が切り捨てられて要約に反映されません。長文では広いコンテキストウィンドウのモデル選択や分割処理が必要になるため、これが原因として最も適切です。
B温度（temperature）パラメータが高く設定され、出力がランダムになっている
温度は出力の多様性・ランダム性を制御するパラメータであり、入力文書の特定箇所が欠落する現象とは因果関係がありません。値を下げても前半条項の欠落は解消しないため、原因として誤りです。
Cモデルが学習時に使用した埋め込み（embedding）の次元数が不足している
埋め込みの次元数はモデル設計時に固定される内部表現の仕様で、利用者が要約欠落の原因として調整できる要素ではありません。文書前半が反映されない事象の説明にならないため誤りです。
Dモデルがハルシネーションを起こし、存在しない条項を生成している
ハルシネーションは事実に基づかない内容を生成する現象を指し、入力に存在する情報が失われる欠落とは別物です。今回は前半条項が出力されない問題であり、生成の創作ではないため誤りです。
解説
コンテキストウィンドウは、LLMが入力と出力を合わせて一度に処理できるトークン数の上限です。入力がこの上限を超えると、超過分（多くは先頭側）が切り捨てられ、その部分の情報がモデルに渡らないため要約に反映されません。長文を扱う際はウィンドウの広いモデルを選ぶか、文書を分割して処理する必要があります。
選択肢Bの温度は出力の多様性を制御するパラメータで、特定箇所が欠落する現象とは無関係。
選択肢Cの埋め込み次元はモデル内部の表現に関する固定値で、利用者が原因として制御するものではない。
選択肢Dのハルシネーションは事実と異なる内容の生成であり、入力情報の欠落とは異なる現象。
ドメイン別正答率・予想スコアでリアルタイムに実力把握
無限ノックでAIFを徹底対策。全問AI生成のオリジナル問題。
無料で演習を始める →