AIF生成AIの基礎

基盤モデルにおける事前トレーニング(Pre-training)の説明として最も適切なものはどれですか。

A
大量の一般的なデータを用いて幅広い知識や言語能力を学習する工程
✓ 正解
事前トレーニングでは大量かつ多様なデータを利用して、言語理解や知識など汎用的な能力を獲得します。基盤モデルの基礎能力を形成する重要な工程です。
B
特定企業の業務データだけを利用して最終調整する工程
特定企業のデータを利用して特定業務向けに性能を高める学習は、一般的にファインチューニングと呼ばれます。事前トレーニングとは目的が異なります。
C
モデルの推論速度だけを改善するために実施する工程
推論速度の改善は量子化や蒸留など別の最適化手法で実施されることが多く、事前トレーニング自体の目的ではありません。
D
ユーザーがプロンプトを入力するたびに実施される工程
事前トレーニングはモデル開発時に一度行われる大規模学習です。ユーザーがプロンプトを入力するたびに実施されるものではありません。

解説

事前トレーニングは、インターネット上の文書など大量かつ多様なデータを利用して、基盤モデルに一般的な知識や言語能力を獲得させる学習工程です。その後、特定用途向けにファインチューニングが行われます。推論速度改善だけを目的とした工程ではなく、推論時に毎回実施されるものでもありません。また、企業独自データだけを用いる学習は一般的にファインチューニングに該当します。

ドメイン別正答率・予想スコアでリアルタイムに実力把握

無限ノックでAIFを徹底対策。全問AI生成のオリジナル問題。

無料で演習を始める →
AIF の問題一覧に戻る