AIP実装と統合
あるAIスタートアップは、オンプレミスのGPUクラスターでMeta Llama 3.1 70Bモデルを独自の顧客サポートデータでファインチューニングしました。このカスタムモデルをAmazon Bedrock経由で提供し、Bedrock Guardrails（有害コンテンツフィルタリング）やIAMポリシーによるアクセス制御を活用したいと考えています。最も少ない実装工数で要件を満たすアプローチはどれですか？
Aモデルの重み（weights）をS3にアップロードし、Amazon Bedrock Custom Model Importを使用してBedrockネイティブモデルとしてインポートする
✓ 正解
AWS外でトレーニング済みのモデル重みをS3経由でBedrockにインポートできます。インポート後はBedrockのGuardrailsやIAM権限がネイティブに適用され、追加実装なしでセキュアなエンドポイントが得られ、実装工数を最小化できます。
BAmazon SageMaker Real-time Inferenceにデプロイし、API GatewayとLambdaでGuardrailsをエミュレートするプロキシを自作する
SageMaker Real-timeはモデルをホストできますが、BedrockのGuardrailsやIAM統合機能を直接利用できません。セキュリティ機能の実装・統合に追加コード作業が必要となり、工数が増加します。
CAmazon Bedrockのカスタムモデルジョブで同一データを再トレーニングし、Bedrockネイティブのファインチューニングを利用する
オンプレミスで既に完了済みのファインチューニング作業を、同一データでBedrockで再実施することは時間・コストの無駄です。要件にある「実装工数の最小化」に直結しません。
DEC2 P4dインスタンスにモデルをデプロイし、vLLMでOpenAI互換APIを公開してGuardrailsはアプリケーション層で実装する
EC2でのモデルホスティングはBedrockのGuardrailsやIAM統合を直接利用できません。セキュリティ機能の自作実装が必要で工数が大幅に増加し、要件を満たしません。
解説
Amazon Bedrock Custom Model Import（カスタムモデルインポート）は、AWS外でトレーニングされたモデルの重みをS3経由でBedrockにインポートし、Bedrockのマネージド推論エンドポイントとして提供する機能です。Llama、Mistral等の主要アーキテクチャをサポートし、インポート後はBedrock GuardrailsやIAMポリシーをネイティブに適用できます。
選択肢Bの「Amazon SageMaker Real-time Inferenceにデプロイ」ではBedrockのセキュリティ機能を直接利用できず、GuardrailsやIAMの統合に追加実装が必要となり工数が大幅に増加します。
選択肢Cの「Amazon Bedrockのカスタムモデルジョブで同一データを再トレーニング」はオンプレミスで完了済みのファインチューニング作業を一から再実施することになり、時間・コストの無駄であり実装工数最小化の要件に反します。
選択肢Dの「EC2 P4dインスタンスにモデルをデプロイ」ではBedrockのセキュリティ機能を直接利用できず、GuardrailsやIAMの統合に追加実装が必要となり工数が大幅に増加します。
ドメイン別正答率・予想スコアでリアルタイムに実力把握
無限ノックでAIPを徹底対策。全問AI生成のオリジナル問題。
無料で演習を始める →