ある保険会社は、毎週更新される約款・規約文書に基づいて顧客の質問に答えるチャットボットを構築したいと考えています。この文書はプロプライエタリ(独自)な情報であり、基盤モデルの学習データには含まれていません。運用コストを抑えながら常に最新情報に基づいた回答を提供するために、最も適切なアーキテクチャはどれですか?
選択肢Aは、ファインチューニングは高コストかつ時間がかかるため、毎週の頻繁な更新には不向きです。再学習のたびにコストと時間が発生し、常に最新情報を維持することが困難です。 選択肢Bは、RAG(Retrieval-Augmented Generation:検索拡張生成)は外部文書をリアルタイムで検索して生成AIの回答に組み込む手法です。Amazon Bedrock Knowledge BasesはこのパターンをマネージドサービスとしてS3と統合しており、文書が更新されれば再インデックスにより最新情報を即座に反映できます。 選択肢Cは、全ての約款をシステムプロンプトに含める方法はコンテキストウィンドウのトークン制限により実用的ではありません。大量の文書をシステムプロンプトに格納するとトークン上限を超えるリスクがあり、コストも増大します。 選択肢Dは、Amazon Kendraはエンタープライズ向けAI検索サービスであり、関連文書の検索・提示は行えますが、自然言語での会話形式の応答を自律的に生成する機能を持ちません。チャットボットとして機能させるには別途生成AIモデルとの統合が必要であり、Kendra単独ではチャットボット要件を満たせません。