Q61 — AWS AIF-C01 第3章

第 61/100 問 | ← 第3章

どのタイプのプロンプトインジェクション攻撃が、大規模言語モデル（LLM）に対して構造化された指示に従わないよう要求し、禁止または有害なトピックに関する出力を生成させるものですか？

• A. 入力の変更
• B. 親しみやすさの悪用
• C. プロンプトテンプレートの無視 ✓
• D. プロンプトによる人格切り替え

正解: C. プロンプトテンプレートの無視

解説

プロンプトインジェクション攻撃において、「プロンプトテンプレートの無視」というタイプは、攻撃者が大規模言語モデルに対し、事前に定義された構造化された指示に従わないよう要求し、禁止または有害なトピックに関する出力を生成させる攻撃を指します。この攻撃手法は、モデルの指示遵守メカニズムを悪用し、元々の制限を無視させることで、悪意のあるコンテンツの生成や制限された情報の漏洩を引き起こす可能性があります。