ある企業は、長文を要約する生成AIモデルを評価しています。生成された要約が、人手で作成した要約とどの程度一致しているかを自動的に評価したいと考えています。この目的に最も適した評価指標はどれですか。
正解は「ROUGE」です。ROUGE(Recall-Oriented Understudy for Gisting Evaluation)は、文章要約の品質評価で広く利用される指標です。生成された要約と参照要約との単語やn-gramの一致度を比較し、要約として必要な情報がどの程度含まれているかを評価します。一方、BLEUは機械翻訳の評価に用いられる代表的な指標であり、翻訳品質の比較を目的としています。ROC-AUCは分類モデル、MAE(Mean Absolute Error)は回帰モデルの評価指標です。それぞれ用途が異なるため、要約タスクの評価にはROUGEを選択するのが適切です。AWS Certified AI Practitionerでは、AIタスクごとに適切な評価指標を選択できることが重要です。