Anthropicが開発しAmazon Bedrockで提供されているClaudeモデルに採用されている「Constitutional AI（憲法的AI）」の説明として最も適切なものはどれですか？

Question

Accepted Answer

正解: 原則セット（憲法）に基づいてAI自身が応答を評価・批評・修正するAI安全技術。Constitutional AI（CAI）はAnthropicが開発したAI安全技術で、「害を与えない」「正直である」などの原則セット（憲法）をAI自身が参照し、生成応答を自己評価・修正します。人間フィードバックに全依存するRLHF（強化学習による人間フィードバック）をスケーラブルに補完し、有害コンテンツ抑制に効果的で、Amazon BedrockのClaudeに実装されています。

Answer

AIモデルを各国の法律・規制に準拠させるための外部機関による認証プロセス — AI規制の外部認証プロセスの説明で、Constitutional AIの技術的仕組みではありません。Constitutional AIは原則セット基づく自動評価という全く異なるアプローチです。

Answer

人間のアノテーターが全応答を個別レビューし品質を保証するプロセス — Constitutional AIは人間フィードバックに全依存するのではなく、AI自身が原則セットに基づいて応答を評価・修正するスケーラブルな自動化技術です。完全な人間レビュープロセスではありません。

Answer

モデルの重みを暗号化してユーザーデータと知的財産を保護するセキュリティ技術 — セキュリティ技術の一種ですが、Constitutional AIの説明ではありません。生成応答の安全性向上に関する技術であり、データ保護とは異なります。

解説