Q25 — AWS AIF-C01 第3章

第 25/100 問 | ← 第3章

金融サービス企業が、大規模言語モデル（LLM）を活用したエージェントを展開しようとしています。このエージェントは投資口座の所有者に対しアドバイスを提供し、取引操作を自動実行します。以下の選択肢から、それぞれの説明に最も適したプロンプトエンジニアリングリスクを選んでください。攻撃者がLLMにフロントエンドアプリケーションから受信したすべての命令を出力させることで、実装上の攻撃者が悪用可能な脆弱性が明らかになります。

正解: C. プロンプトテンプレートの抽出

解説

大規模言語モデル（LLM）を活用したエージェントを展開する際に、攻撃者がLLMにフロントエンドアプリケーションから受信したすべての命令を出力させることができると、システム実装上の潜在的な脆弱性が露呈します。この手法により、攻撃者は「プロンプトテンプレートの抽出」（選択肢C）というリスクを引き起こし、具体的なテンプレート内容を取得できます。これらのテンプレートを入手した攻撃者は、さらに攻撃を実行したり、機密情報を窃取したりする可能性があり、システムのセキュリティおよび安定性に深刻な脅威を及ぼします。 詳細を表示