AIP基盤モデルの統合、データ管理、コンプライアンス
カスタマーサービスプラットフォームはAmazon Bedrockを使用して数千人のユーザーと同時に多ターン会話を行っています。各セッションは30〜60分続き、20〜50回の対話が発生します。セッション初期の重要なコンテキスト(ユーザーの問題概要など)が後のターンで失われることがあり、コンテキストウィンドウの制限・コスト・レスポンス品質のバランスを取る設計が求められています。最も効果的なアーキテクチャはどれですか?
AAWS LambdaのメモリにセッションIDをキーとして全会話履歴を保持し、各リクエストで全履歴をBedrock APIに渡すことで完全なコンテキストを維持する
LambdaのメモリにセッションIDをキーとして全会話履歴を保持は、Lambdaメモリは再起動でデータが消失し数千同時セッションには不適切です。
BAmazon DynamoDBに全会話履歴を保存し、各リクエストでは直近の数ターンのみを取得してBedrock APIに渡す。セッション初期の重要コンテキストはAmazon Bedrock Knowledge Basesへのセマンティック検索で動的に補完する
✓ 正解
DynamoDBへの全履歴保存と直近ターンのみの送信で、コンテキストウィンドウ制限とトークンコストを管理できます。失われた初期の重要コンテキストはKnowledge Basesのセマンティック検索で動的に補完可能です。
CAmazon ElastiCacheに全会話履歴をキャッシュし、同一ユーザーの類似質問パターンでは過去のBedrock回答を再利用してAPI呼び出しコストを削減する
Amazon ElastiCacheに全会話履歴をキャッシュは、ElastiCacheの完全一致キャッシュは動的な会話に不向きです。
DAmazon Bedrock Agentsのセッション間メモリ機能のみに依存してセッション状態の管理をAgentsに委任し、カスタムの履歴管理ロジックを一切実装しない
Amazon Bedrock Agentsのセッション間メモリ機能のみに依存は、Agentsのメモリ機能は現状、セッション間の簡易サマリ保持に限定されています。
解説
DynamoDBへの全履歴保存と直近ターンのみの送信で、コンテキストウィンドウ制限とトークンコストを管理できます。失われた初期の重要コンテキストはKnowledge Basesのセマンティック検索で動的に補完可能です。
選択肢AのLambdaのメモリにセッションIDをキーとして全会話履歴を保持は、Lambdaメモリは再起動でデータが消失し数千同時セッションには不適切です。
選択肢CのAmazon ElastiCacheに全会話履歴をキャッシュは、ElastiCacheの完全一致キャッシュは動的な会話に不向きです。
選択肢DのAmazon Bedrock Agentsのセッション間メモリ機能のみに依存は、Agentsのメモリ機能は現状、セッション間の簡易サマリ保持に限定されています。
ドメイン別正答率・予想スコアでリアルタイムに実力把握
無限ノックでAIPを徹底対策。全問AI生成のオリジナル問題。
無料で演習を始める →