AIF基盤モデルのアプリケーション

ある企業が、Amazon Bedrock でカスタマイズした基盤モデルを限られた GPU リソースとコストの中でファインチューニングしたいと考えています。モデル全体の重みを更新せず、少数の追加パラメータのみを学習することで、計算コストを抑えつつタスク適応を行いたいです。この目的に最も合致する手法はどれですか。

A
LoRA などの PEFT(パラメータ効率的ファインチューニング)を用いる
✓ 正解
モデル全体の重みを固定し、少数の追加パラメータのみを学習することで計算コストとメモリを抑えてタスク適応できるため、リソース制約のある本要件に最適です。LoRAはその代表的手法です。
B
モデルのすべての重みを更新するフルファインチューニングを行う
全パラメータを更新するため大量のGPUメモリと計算コストを要します。少数パラメータのみで効率的に適応したいという本要件の制約に反し、コスト面で不利です。
C
大規模コーパスでゼロから事前学習をやり直す
膨大なデータと計算資源を必要とする最もコストの高いアプローチで、既存モデルを効率的に適応させたい本要件には全く合いません。ファインチューニングの目的とも異なります。
D
推論時にフューショット例をプロンプトに与える
推論時にプロンプトへ例を与える手法で、モデルの重みは更新されません。学習によるタスク適応を行うファインチューニングではないため、本要件の手段としては該当しません。

解説

PEFT(Parameter-Efficient Fine-Tuning)は、モデル全体の重みを更新せず、少数の追加パラメータのみを学習することで計算コストとメモリを大幅に削減する手法です。代表例が LoRA(Low-Rank Adaptation)です。 限られた GPU・コストでのタスク適応という本要件に最適です。 選択肢Bのフルファインチューニングは、全パラメータを更新するため計算コスト・メモリ負荷が大きく、リソース制約のある本要件に反する。 選択肢Cのゼロからの事前学習は、膨大なデータと計算資源を要し、最もコストが高くファインチューニングの目的にも合わない。 選択肢Dのフューショットは、重みを更新せずプロンプトで例示する推論時手法であり、ファインチューニングではない。

ドメイン別正答率・予想スコアでリアルタイムに実力把握

無限ノックでAIFを徹底対策。全問AI生成のオリジナル問題。

無料で演習を始める →
AIF の問題一覧に戻る