無限ノック › AIP 練習問題一覧 › 問題
AIPテスト、検証、トラブルシューティング

大手メディア企業がAmazon Bedrockを使ったコンテンツ生成パイプラインを本番運用しています。一部のAPIリクエストで通常の3〜4倍のレイテンシが断続的に発生しており、ユーザー体験に悪影響を与えています。エンジニアチームが根本原因を特定するために最初に実施すべきアクションはどれですか?

A
Amazon Bedrock Model Invocation Loggingを有効化し、CloudWatch Logs Insightsで各リクエストの推論レイテンシ・入力トークン数・モデルIDをクエリして遅延の共通パターンを特定する
✓ 正解
Bedrock Model Invocation Loggingはレイテンシ・トークン数・モデルIDなどをリクエスト単位で記録します。CloudWatch Logs Insightsでパターン分析を行うことで、スロットリング・大入力・時間帯依存など断続的な高レイテンシの根本原因を特定する診断情報を得られます。
B
すべてのAPI呼び出しをInvokeModelからInvokeModelWithResponseStreamに変更し、最初のトークンを早期にストリーミング返却することで、ユーザーが体感する遅延を短縮して問題を解消する
InvokeModelWithResponseStreamへの切り替えは最初のトークンまでの時間(TTFT)を短縮しますが、総推論時間は変わりません。断続的な3〜4倍レイテンシの根本原因解明にはつながらず、問題を隠蔽するだけになります。
C
使用モデルをオンデマンドAPIからProvisioned Throughputに移行して専用キャパシティを確保し、リクエスト処理のレイテンシばらつきを排除することで断続的な遅延を恒久的に解決する
Provisioned Throughputはスロットリングによるレイテンシのばらつきに有効ですが、高コストのリソース変更を診断より先に実施すると無駄なコストが発生します。根本原因が大きな入力トークン数や外部依存にある場合は効果がありません。
D
Amazon API Gatewayにレスポンスキャッシュを設定し、同一または類似プロンプトのリクエストをキャッシュすることでBedrockへのリクエスト数を削減し、高負荷時の遅延スパイクを回避する
API GatewayキャッシュはURLとパラメータが完全一致するリクエストにしか機能せず、コンテンツ生成のようにリクエストが多様なユースケースでは命中率が極めて低くなります。断続的なレイテンシの根本原因解明にも貢献しません。

解説

断続的な高レイテンシのトラブルシューティングでは、まず観測データを収集して根本原因を特定することが必要です。Amazon Bedrock Model Invocation Loggingを有効化すると、各リクエストの推論レイテンシ・入力/出力トークン数・モデルID・タイムスタンプなどがCloudWatch LogsまたはS3に記録されます。CloudWatch Logs Insightsでこれらのフィールドをクエリすることで、遅延が高いリクエストの共通属性(大きな入力トークン数・特定モデル・ピーク時間帯のスロットリングなど)を特定し、適切な対策(Provisioned Throughput・チャンク分割・負荷分散など)を根拠を持って選択できます。 選択肢BのInvokeModelWithResponseStreamへの変更は体感レイテンシを改善しますが、実際の総推論時間は変わらず、根本原因の特定につながりません。 選択肢CのProvisioned Throughputへの移行はスロットリングが原因の場合に有効ですが、診断前に高コストのリソース変更を実施するのは時期尚早で、原因が別にある場合は効果がありません。 選択肢DのAPI Gatewayキャッシュはまったく同一のリクエストにしか機能せず、コンテンツ生成のような多様なリクエストパターンでは命中率が極めて低くなり、根本原因の解明にも貢献しません。

ドメイン別正答率・予想スコアでリアルタイムに実力把握

無限ノックでAIPを徹底対策。全問AI生成のオリジナル問題。

無料で演習を始める →
← AIP の問題一覧に戻る