Q16 — AWS AIF-C01 第3章

第 16/100 問 | ← 第3章

ある企業が、ニューラルネットワークに基づくモデルを構築し、文書を複数のカテゴリに分類しようとしています。同社は、ステークホルダーに対してモデルの動作および予測を説明可能にすることを望んでいます。これらの要件を満たすために、最も少ない運用負荷で実現できる手法はどれですか？

• A. モデルの正確性およびパフォーマンス指標のみに依存する
• B. モデルの重みおよび特徴を手動で検査して内部機構を理解する
• C. 選択したモデルアーキテクチャに特化したカスタムの説明可能性手法を開発する
• D. SHAP（Shapley Additive Explanations）などのモデル非依存型の説明可能性手法を活用する ✓

正解: D. SHAP（Shapley Additive Explanations）などのモデル非依存型の説明可能性手法を活用する

解説

ニューラルネットワークに基づくモデルを構築する際、ステークホルダーに対してモデルの動作および予測を説明可能にするには、効率的かつ汎用的な説明手法を選択する必要があります。SHAP（Shapley Additive Explanations）などのモデル非依存型の説明可能性手法は、この要件を満たします。この手法は特定のモデルアーキテクチャに依存せず、モデルの内部機構を深く理解する必要なく、モデルの意思決定根拠を直感的に説明できるため、運用負荷を最小限に抑えることができます。