無限ノック › AIP 練習問題一覧 › 問題
AIP生成AIアプリケーションの運用効率と最適化

法律テクノロジー企業がAmazon BedrockのAnthropic Claude 3.5 Sonnetを使用した契約書分析サービスを運用しています。各APIリクエストのmessagesには50,000トークンの法律参照コーパスが含まれており、1日50,000リクエストを処理しています。コーパスは週1回しか更新されず、入力トークンコストが月間数百万円規模に達しています。レスポンス品質を維持しながら最もコストを削減できる実装変更はどれですか?

A
抽出的要約(Extractive Summarization)を使用して参照コーパスを5,000トークン以下に圧縮し、情報密度を高める
抽出的要約で50,000トークンを5,000トークンに圧縮するとコスト削減は得られるが、法律参照コーパスの文脈が損なわれ契約書分析の精度が低下する可能性があり、品質維持の要件を満たせない。
B
Amazon Bedrock Knowledge Basesに参照コーパスを登録し、RAGで各リクエストに関連するチャンクのみを取得してコンテキストウィンドウを削減する
Amazon Bedrock Knowledge Basesは関連チャンクのみを取得しコスト削減できるが、コーパス全体の文脈が失われ契約書分析の精度が低下する可能性があり品質維持の要件を満たせない。
C
コンテンツブロックにcache_controlパラメータ(type: 'ephemeral')を付与してプロンプトキャッシングを有効化し、入力トークンコストを削減する
✓ 正解
プロンプトキャッシングはキャッシュヒット時に入力トークンコストを約90%削減できます。cache_control を type: 'ephemeral' で付与すると TTL 5分のキャッシュが生成され、1日50,000リクエストの環境ではキャッシュヒット率が極めて高くなります。
D
Bedrock Prompt Managementに参照コーパスをプロンプトとして保存し、プロンプトARNを使用してリクエストを送信することでトークン消費を削減する
Bedrock Prompt Managementはプロンプトのバージョン管理・再利用機能であり、APIコール時のトークン消費を削減する仕組みではありません。

解説

プロンプトキャッシングは同一プレフィックス(コーパス等)を持つ連続リクエストでキャッシュヒット時に入力トークンコストを約90%削減できます。cache_control を type: 'ephemeral' で付与すると TTL 5分のキャッシュが生成され、1日50,000リクエストの環境ではキャッシュヒット率が極めて高くなります。 選択肢A の抽出的要約(Extractive Summarization)は、参照コーパスを圧縮しますが、情報密度向上のための圧縮であり、プロンプトキャッシングほどのコスト削減効果は期待できません。 選択肢B の Amazon Bedrock Knowledge Bases は、RAG でコスト削減効果はありますが、コーパス全体の文脈が失われ分析精度が低下する可能性があります。 選択肢D の Bedrock Prompt Management は、プロンプトのバージョン管理・再利用機能であり、API コール時のトークン消費を削減する仕組みではありません。

ドメイン別正答率・予想スコアでリアルタイムに実力把握

無限ノックでAIPを徹底対策。全問AI生成のオリジナル問題。

無料で演習を始める →
← AIP の問題一覧に戻る