Q63 — AWS AIF-C01 第3章

第 63/100 問 | ← 第3章

ある地域の公益事業会社が、顧客向けにパーソナライズされた省エネヒントを生成する生成AIアプリケーションを構築しようとしています。同社は、顧客の入力をプロンプトテンプレートに挿入することでプロンプトを作成するアプリケーションを開発しました。顧客の入力は、郵便番号、世帯人数、関心のあるトピックなどの事前設定リストからの選択に限定されています。同社のシステムおよび顧客データのセキュリティは極めて重要です。どのソリューションが、プロンプトインジェクション攻撃を防止する上で最も高いセキュリティ効果を提供しますか？

• A. システム全体のソフトウェア更新頻度を高める
• B. プロンプトテンプレートに、関連のないリクエストをどのように処理するかに関する説明を追加する ✓
• C. パーソナライズされた顧客リクエストを受け付けるために、アプリケーションをテキストボックスで更新する
• D. モデルの毒性評価に基づいてプロンプトテンプレートを最適化する

正解: B. プロンプトテンプレートに、関連のないリクエストをどのように処理するかに関する説明を追加する

解説

生成AIアプリケーションを構築する際、プロンプトインジェクション攻撃を防止することはシステムのセキュリティ確保において極めて重要です。プロンプトインジェクション攻撃は、ユーザー入力が不適切に処理または解釈された場合に発生し、望ましくないまたは悪意のあるコード実行につながる可能性があります。本問のシナリオでは、顧客入力は事前設定リストからの選択に制限されていますが、それでもプロンプトテンプレートへの挿入時にこれらの入力が適切に処理されることを保証する必要があります。