AIP生成AIアプリケーションの運用効率と最適化

ある法律事務所がAmazon Bedrock Custom Modelsを使用して、法律文書要約に特化したClaude 3 Haikuのファインチューニングモデルを作成しました。トレーニングジョブは正常に完了しましたが、このカスタムモデルを本番の文書管理システムからInvokeModel APIで呼び出そうとするとエラーが発生しています。問題を解決するために必ず必要な設定はどれですか?

A
モデルをAmazon S3にエクスポートし、SageMakerリアルタイムエンドポイントにデプロイする
Amazon Bedrockカスタムモデルの推論APIではS3エクスポート形式での呼び出しはサポートされていません。SageMakerへの移行も別プロセスで不要です。
B
IAMポリシーにbedrock:InvokeModelアクションを追加し、カスタムモデルARNをResourceとして明示的に指定する
IAMポリシーの設定は必要な前提条件ですが、それだけではカスタムモデルを推論に使用することはできません。別途のセットアップが必須です。
C
Bedrockプロビジョンドスループット(Provisioned Throughput)を購入し、カスタムモデルに関連付けたうえでそのARNを呼び出す
✓ 正解
Bedrockカスタムモデル(ファインチューニング・継続事前学習)の推論には、プロビジョンドスループット(Provisioned Throughput)の購入が必須要件です。MUを購入してモデルに関連付けることで初めて呼び出し可能になります。
D
AWS Marketplaceでカスタムモデルを公開し、マーケットプレイス経由のエンドポイントURLで利用する
Bedrockカスタムモデルの公開機能はAWS Marketplace経由では提供されておらず、プロビジョンドスループット経由での利用が標準的な方法です。

解説

Amazon Bedrock Custom Models(ファインチューニング・継続事前学習モデル)を推論に使用するには、Provisioned Throughputの購入が必須要件です。カスタムモデルはオンデマンドAPIから直接呼び出すことができません。プロビジョンドスループットユニット(MU)を購入してカスタムモデルに関連付けることで生成されるProvisioned Throughput ARNを使用して初めてInvokeModel APIから呼び出し可能になります。IAMポリシーの設定は必要ですが、それだけでは解決しません。

ドメイン別正答率・予想スコアでリアルタイムに実力把握

無限ノックでAIPを徹底対策。全問AI生成のオリジナル問題。

無料で演習を始める →
AIP の問題一覧に戻る