AIF責任あるAIのガイドライン
生成AIが「毒性（Toxicity）」の高いコンテンツを生成してしまうリスクを軽減するための対策として、最も適切なものはどれですか？
Aプロンプトに含めるトークン数を最大化する
入力プロンプトのトークン数を増やすことはモデルに与える情報量を変える操作であり、有害コンテンツや毒性ある出力を防ぐセーフティ対策とは直接的な関係がありません。
Bモデルのトレーニングエポック数を減らす
エポック数（学習繰り返し回数）を減らすとモデルが十分に学習できないアンダーフィッティングを引き起こす可能性があります。毒性コンテンツの生成リスクを軽減する有効な対策にはなりません。
Cガードレールやコンテンツフィルタリングを導入する
✓ 正解
入出力を検査・ブロックするガードレール（Amazon Bedrock Guardrailsなど）やコンテンツフィルタリングは、差別的・暴力的な表現などの毒性コンテンツの生成リスクを軽減する最も直接的かつ効果的な対策です。
Dモデルの推論のTemperature（温度）を最大値に設定する
Temperatureを最大値に設定するとモデルの出力がランダムかつ予測不可能になり、有害コンテンツが意図せず生成されるリスクがむしろ高まります。毒性リスクの軽減とは逆効果の設定です。
解説
正解はCです。毒性（Toxicity）とは、差別的、暴力的、または攻撃的な表現を指します。生成AIアプリケーションで毒性を防ぐには、入力プロンプトやモデルの出力を検査しブロックするガードレール（例：Amazon Bedrock Guardrails）やコンテンツフィルタリングを実装することが推奨されます。Aのトークン数の最大化はコンテンツの安全性とは無関係です。Bのエポック数の削減はモデル全体の学習不足（アンダーフィッティング）を招くだけです。DのTemperatureを高く設定すると、モデルの出力がよりランダムかつ予測不可能になるため、予期せぬ有害コンテンツが生成されるリスクが高まる可能性があります。
ドメイン別正答率・予想スコアでリアルタイムに実力把握
無限ノックでAIFを徹底対策。全問AI生成のオリジナル問題。
無料で演習を始める →