AIF生成AIの基礎
Amazon Bedrockを使った法律文書解析システムを構築中のエンジニアが、数百ページに及ぶ大型契約書をプロンプトに丸ごと入力して処理しようとしたところ、モデルが文書の後半部分をまったく参照していないという問題が発生しました。この問題の根本原因として最も考えられるのはどれですか?
A文書のフォーマット(PDFなど)がモデルと非互換であるため
BedrockはPDFや画像など様々な入力形式をサポートしており、フォーマットの非互換性が原因で文書の特定部分が無視されることはありません。後半が参照されない根本原因はコンテキストウィンドウの上限超過であり、フォーマットの問題ではありません。
B入力がモデルのコンテキストウィンドウ(Context Window)の上限トークン数を超えているため
✓ 正解
コンテキストウィンドウの上限トークン数を超えた入力は切り捨てられ、モデルが参照できない状態になります。これが数百ページの大型文書で後半が無視される直接的な原因です。RAGによるチャンク分割や、大きなコンテキストウィンドウを持つモデルへの切り替えで対処できます。
CAmazon Bedrockのリージョンが文書の言語に対応していないため
Amazon Bedrockのリージョンはサービスが提供される地理的拠点(ap-northeast-1など)を示すものです。リージョンの設定は対応言語や文書の参照範囲には影響せず、文書後半が無視される根本原因にはなりません。
Dモデルのtemperatureパラメータが高く設定されているため
temperatureはモデルが出力を生成する際の多様性・ランダム性を制御するパラメータです。値が高いと創造的な出力が増えますが、コンテキストウィンドウ内で参照できる範囲やトークン数には一切影響しません。
解説
コンテキストウィンドウとは、LLM(大規模言語モデル)が一度のリクエストで参照できる最大トークン数(入力+出力の合計)のことです。この上限を超えた部分は切り捨てられるため、長大な文書の後半が無視される問題が生じます。
対策として、ドキュメントをチャンク分割してRAG(検索拡張生成)を活用するか、コンテキストウィンドウが大きいモデルに切り替える方法があります。
選択肢Aの「文書フォーマット(PDFなど)がモデルと非互換」は誤りです。Amazon BedrockはPDFを含む様々な形式に対応しており、フォーマットが文書後半の無視を引き起こすことはありません。
選択肢Cの「リージョンが文書の言語に対応していない」は誤りです。リージョンはサービス提供地域を示すものであり、文書の参照範囲とは無関係です。
選択肢Dの「temperatureパラメータが高く設定されている」は誤りです。temperatureは出力の多様性・ランダム性を調整するパラメータであり、コンテキストウィンドウの参照範囲には影響しません。
ドメイン別正答率・予想スコアでリアルタイムに実力把握
無限ノックでAIFを徹底対策。全問AI生成のオリジナル問題。
無料で演習を始める →