解説

Amazon Bedrock Provisioned Throughputは、指定したモデルに対して一定スループット（モデルユニット）を事前購入する機能です。 購入したモデルユニット数に応じたスループットが専用に確保されるため、スロットリングが発生せず、オンデマンドAPIと比較して一貫した低レイテンシが保証されます。 毎分300リクエストという予測可能で安定した負荷パターンに対してProvisioned Throughputは最も適しており、必要なモデルユニット数を計算して購入することでSLAを満たせます。1ヶ月または6ヶ月のコミットメントオプションがあり、長期コミットで割引が適用されます。 選択肢BのLambda同時実行数の引き上げとリトライは、根本的なスロットリング問題を解決しません。バックオフリトライはレイテンシをさらに悪化させ、編集者の作業効率を損ないます。 選択肢CのSQSキューによるバッファリングはスループット制限内での処理を可能にしますが、キューイングによる追加レイテンシが発生し、リアルタイム編集作業の要件を満たせません。 選択肢Dのマルチリージョン分散は設定・運用の複雑さが大幅に増加し、リージョン間のモデルバージョン管理も困難になります。スロットリングの根本解決にはなりません。