AIP実装と統合

あるスタートアップが独自GPUクラスター上でLlama 3をファインチューニングしたモデルを開発しました。エンタープライズ顧客向けにAWSネイティブのセキュリティ・コンプライアンス要件(GuardrailsによるPIIフィルタリング、IAMアクセス制御、監査ログ等)を満たしながらこのモデルをサービス提供したいと考えています。最も適切なアプローチはどれですか?

A
Bedrock Custom Model Jobsを使ってモデルをゼロから再トレーニングする
Bedrockでゼロから再訓練は、独自開発資産を活用できない。
B
Amazon SageMakerエンドポイントにデプロイし、BedrockエージェントのアクショングループからLambda経由で呼び出す
SageMakerエンドポイントは、BedrockのGuardrailsを直接適用できない。
C
Amazon Bedrockのカスタムモデルインポート(Custom Model Import)機能を使い、独自モデルウェイトをBedrockの推論インフラへインポートしてサービス提供する
✓ 正解
Amazon BedrockのCustom Model Import(カスタムモデルインポート)は、外部でトレーニング・ファインチューニングされたモデルウェイト(HuggingFace形式等)をBedrockにインポートし、Guardrails・IAM・VPC・CloudWatch等のAWSネイティブ機能をフルに活用して提供できる機能。
D
モデルウェイトをS3にアップロードし、推論リクエストごとにLambda関数がモデルをロードして処理する
S3へのアップロードは、GPUコールドスタートが大きく本番用途には不適。

解説

Amazon BedrockのCustom Model Import(カスタムモデルインポート)は、外部でトレーニング・ファインチューニングされたモデルウェイト(HuggingFace形式等)をBedrockにインポートし、Guardrails・IAM・VPC・CloudWatch等のAWSネイティブ機能をフルに活用して提供できる機能。 選択肢AのBedrockでゼロから再訓練は、独自開発資産を活用できない。 選択肢BのSageMakerエンドポイントは、BedrockのGuardrailsを直接適用できない。 選択肢DのS3へのアップロードは、GPUコールドスタートが大きく本番用途には不適。

ドメイン別正答率・予想スコアでリアルタイムに実力把握

無限ノックでAIPを徹底対策。全問AI生成のオリジナル問題。

無料で演習を始める →
AIP の問題一覧に戻る