毎週モデルをファインチューニングして最新の製品知識を学習させる

再訓練コストと時間がかかる。

Amazon Bedrock Knowledge Bases を用いたRAG（Retrieval-Augmented Generation：検索拡張生成）構成とし、S3上の最新ドキュメントをベクトル化して推論時に参照する

✓ 正解

Amazon Bedrock Knowledge Bases を用いたRAG（Retrieval-Augmented Generation：検索拡張生成）構成とし、S3上の最新ドキュメントをベクトル化して推論時に参照する。 RAGはモデルを再訓練せずに外部ドキュメントを推論時にリアルタイム参照する手法です。毎週のファインチューニングはコスト・時間の面で非現実的です。全文書をシステムプロンプトに毎回含める方法はコンテキストウィンドウの上限超過リスクがあり、トークンコストも増大します。

全マニュアルをシステムプロンプトに含め、毎回のAPIリクエストにフルテキストを添付する

コンテキストウィンドウの上限超過リスクがあり、トークンコストが増大。

Amazon Kendra で文書検索のみを提供し、生成AIによる回答生成は行わない

検索結果の提示はできても自然言語での回答生成はできない。