AIP生成AIアプリケーションの運用効率と最適化
あるカスタマーサポートプラットフォームが、Amazon Bedrock（Claude Sonnet）を使ったAIチャットボットを本番運用しています。ユーザーから「完全なレスポンスが届くまでの待機時間が長くUXが悪い」というフィードバックが多数届いており、開発チームはトークン単位のストリーミングを実装することにしました。Python（boto3）でAmazon Bedrock Runtimeを使ってストリーミングレスポンスを正しく実装する方法はどれですか？
Ainvoke_model() APIを呼び出し、リクエストボディのJSONに"stream": trueパラメータを追加することでストリーミングモードを有効にして受信する
invoke_model() APIにリクエストボディのJSONで "stream": true パラメータを追加する方法は、Bedrockには存在しません。
Binvoke_model_with_response_stream() APIを使用し、返却されるResponseStreamを逐次イテレートしてチャンク単位でトークンを取得・処理する
✓ 正解
invoke_model_with_response_stream() はBedrock Runtimeのストリーミング専用APIであり、EventStreamオブジェクトとして ResponseStream を返します。呼び出し元はこれをイテレートしてチャンクを逐次受信し、デコードして表示できます。
Cinvoke_model() APIの呼び出し引数にStreamingConfig={'Enabled': True}を追加設定してストリーミングモードに切り替えて逐次受信する
invoke_model() APIの呼び出し引数に StreamingConfig={'Enabled': True} を設定する方法も、Bedrockには存在しません。
DAmazon Kinesis Data StreamsをBedrockのイベントトリガーに設定し、生成されたトークンをリアルタイムでストリーム転送・処理する
Amazon Kinesis Data StreamsをBedrockのトリガーとして設定する方法は、KinesisはBedrockと直接統合されていません。
解説
invoke_model_with_response_stream() はBedrock Runtimeのストリーミング専用APIであり、EventStreamオブジェクトとして ResponseStream を返します。呼び出し元はこれをイテレートしてチャンクを逐次受信し、デコードして表示できます。
選択肢Aの invoke_model() APIにリクエストボディのJSONで "stream": true パラメータを追加する方法は、Bedrockには存在しません。
選択肢Cの invoke_model() APIの呼び出し引数に StreamingConfig={'Enabled': True} を設定する方法も、Bedrockには存在しません。
選択肢Dの Amazon Kinesis Data StreamsをBedrockのトリガーとして設定する方法は、KinesisはBedrockと直接統合されていません。
ドメイン別正答率・予想スコアでリアルタイムに実力把握
無限ノックでAIPを徹底対策。全問AI生成のオリジナル問題。
無料で演習を始める →