金融サービス企業が社内向けコンプライアンス質問応答システムを構築しています。要件は以下の通りです: ・社内規制ガイドライン・内部ポリシー文書(計5,000ページ)に基づいて回答 ・ポリシーは月1回更新される ・回答時に「参照文書名と該当箇所」を明示する必要がある ・社内にMLエンジニアが不在でモデルトレーニングの専門知識がない ・月間予算:$3,000 以下のアプローチのうち、全要件を最も適切に満たすものはどれか?
RAG(検索拡張生成:Retrieval-Augmented Generation)は外部ナレッジベースを検索してモデルの回答を補強するアーキテクチャです。 選択肢Aは、毎月のファインチューニングはコストと時間がかかり、引用元の明示も困難です。新しいポリシーをモデルに組み込むために毎回高額なトレーニングジョブが必要になります。 選択肢Bは、Amazon Bedrock Knowledge BasesによるRAGアーキテクチャが全要件を満たします。 ①月次更新はS3への文書再アップロードと再インデックスのみで対応可能、 ②Knowledge Basesは検索ソースのメタデータ(文書名・チャンク位置)を返却するため引用明示が容易、 ③マネージドサービスとして専門知識不要で運用可能、 ④$3,000/月の予算範囲内で運用可能です。 選択肢Cは、継続事前学習(CPT)はモデルに汎用ドメイン知識を付与する用途であり、月次での再トレーニングはコストが高く引用元の明示も困難です。頻繁な知識更新には不向きです。 選択肢Dは、5,000ページの文書は数百万トークンに相当し、Claude 3 Sonnetのコンテキストウィンドウ(最大200Kトークン)を大幅に超えるため、全文書をシステムプロンプトに含めることは技術的に不可能です。