ある金融サービス企業が、Amazon Bedrock を使ったリアルタイム取引分析アプリケーションを us-east-1 リージョンで運用しています。市場開場直後の混雑時間帯に頻繁にスロットリングエラー(ThrottlingException:リクエスト過多によってAPIが一時的にリクエストを拒否するエラー)が発生し、処理が遅延しています。プロビジョンドスループット(Provisioned Throughput:キャパシティを事前に予約購入する機能)を新たに購入せずに、スロットリングを軽減して可用性とスループットを向上させるための最適な方法はどれですか?
Amazon Bedrock のクロスリージョン推論(Cross-region inference)は、プライマリリージョンのキャパシティが不足した際に、自動的に他のAWSリージョンのキャパシティを利用してリクエストを処理する機能です。推論プロファイルを設定するだけでプロビジョンドスループットを購入することなくスロットリングを削減し、可用性とスループットを向上させることができます。SQSバッファリングはリクエストを非同期キューに溜めるだけでBedrockのAPIキャパシティ自体は増えないため、リアルタイム処理の遅延解消にはなりません。Lambdaの同時実行数を増やしてもBedrockのAPIスロットリング上限は変わらず、同時リクエスト数が増加してThrottlingExceptionがさらに頻発する可能性があります。ElastiCacheキャッシュは全く同一のリクエストには有効ですが、リアルタイム取引分析では各リクエストの内容が動的に異なるためキャッシュヒット率は極めて低く、根本的な解決策になりません。