あるスタートアップ企業が、Amazon Bedrock(Claude)を使用したチャットボットを構築しています。フロントエンドはReactで実装されており、ユーザーはトークンが生成されるたびに応答をリアルタイムで確認したいと考えています。バックエンドチームはAPI Gatewayの29秒タイムアウト制限を回避しつつ、最初のバイトまでの時間(TTFB: Time To First Byte)を最小化したいと考えています。最もシンプルかつ効果的なアーキテクチャはどれですか?
Lambda関数URLのストリーミングモード(RESPONSE_STREAM)を使用すると、API Gatewayの29秒タイムアウト制限を回避しながら、Bedrock InvokeModelWithResponseStreamで取得したトークンを逐次クライアントへ送信できます。追加インフラが不要で実装がシンプルであり、TTFBも最小化されます。 選択肢AのWebSocket APIは接続管理が複雑です。 選択肢CのAmazon AppSyncはPub/Subのオーバーヘッドがあります。 選択肢DのCloudFrontはBedrockへの直接プロキシには非対応です。