Q22 — AWS AIF-C01 第3章

第 22/100 問 | ← 第3章

ある企業が、大規模言語モデル（LLM）を用いたパブリックチャットボットを設計しました。この企業は、プロンプト注入攻撃を懸念しており、その対策を実装したいと考えています。以下の戦略のうち、さまざまなタイプのプロンプト注入攻撃を最も効果的に防止できるのはどれですか？

正解: D. （tag123）などのサルト付きシーケンスラベルで命令をラップする

解説

プロンプト注入攻撃の防止においては、悪意あるユーザーがシステムの脆弱性をトリガーする入力を容易に予測または構築できないようにすることが重要です。ユーザーが質問可能なトピックを記述したシステムプロンプト（選択肢A）は、ユーザーの質問範囲を制限するものの、悪意あるユーザーが巧妙に構成された入力でこれらの制限を回避する可能性があるため、有効な防止策とは言えません。不適切な行動や犯罪活動を阻止するためのコンテンツフィルター（選択肢B）は一般的なセキュリティ対策ですが、これは主にコンテンツレベルのフィルタリングに焦点を当てており、命令レベルの保護には不十分です。プロンプト注入攻撃に関連するキーワードをブロックするワードフィルター（選択肢C）は、明確な攻撃試みを阻止できますが、悪意あるユーザーが他の単語や表現を用いてフィルターを回避する可能性があります。 詳細を表示