Q54 — AWS AIF-C01 第2章

第 54/100 問 | ← 第2章

ある企業が、大規模言語モデル（LLM）を用いて対話型AIアプリケーションを開発しようとしています。同社は、LLMが一般的なプロンプトエンジニアリング手法によって操作され、望ましくない行動を実行したり、機密情報を漏洩したりすることを防止する必要があります。

• A. 攻撃パターンを検出するためのLLM（大規模言語モデル）トレーニング用プロンプトテンプレートを作成する。 ✓
• B. LLM呼び出しリクエストにおける温度（temperature）パラメータを上げる。
• C. Amazon SageMaker にリストされていないLLMの使用を避ける。
• D. LLM呼び出し時の入力トークン数を減らす。

正解: A. 攻撃パターンを検出するためのLLM（大規模言語モデル）トレーニング用プロンプトテンプレートを作成する。

解説

攻撃パターンを検出するためのプロンプトテンプレートを作成し、それを用いて大規模言語モデル（LLM）をトレーニングすることは、最も効果的な対策です。特定のプロンプトテンプレートを設計することで、トレーニング段階からモデルに悪意のあるプロンプトに対する認識および防御能力を学習させることができます。この手法は、LLMの操作防止という目標に直接対応しており、望ましくない行動の実行や機密情報の漏洩といったリスクを効果的に低減します。