Q24 — AWS AIF-C01 第1章

第 24/100 問 | ← 第1章

ある企業が大規模言語モデル（LLM）を用いてコード生成アプリケーションを開発したいと考えています。同社は、一般的なプロンプトエンジニアリング技術によって LLM が操作され、不適切な操作を実行したり、機密情報を漏洩させたりすることを防止する必要があります。これらのリスクを低減するための対策はどれですか？

• A. LLM が攻撃パターンを検出する方法を教えるプロンプトテンプレートを作成する。 ✓
• B. LLM の呼び出しリクエストに温度（temperature）パラメータを追加する。
• C. Amazon SageMaker にリストされていない LLM の使用を避ける。
• D. LLM の呼び出し時の入力トークン数を減らす。

正解: A. LLM が攻撃パターンを検出する方法を教えるプロンプトテンプレートを作成する。

解説

この問題は、大規模言語モデル（LLM）のセキュリティに関する理解を問うものです。プロンプトエンジニアリング技術による LLM の操作を防ぐには、悪意のあるプロンプトを認識・阻止する能力を強化することが鍵となります。A オプションは、攻撃パターンを検出するよう LLM に教えるプロンプトテンプレートを作成することを提案しており、悪意のあるプロンプトを認識・対応する訓練を通じて、不適切な操作や機密情報の漏洩リスクを低減します。B オプションの温度パラメータの増加は、LLM の出力のランダム性を調整するものであり、操作防止には直接関係しません。C オプションは信頼できるモデルの選択を推奨していますが、これはプロンプトエンジニアリングによる操作防止には直接寄与しません。D オプションの入力トークン数の削減は、モデルのパフォーマンスや出力品質に影響を与える可能性があり、操作に対する耐性向上には直接つながりません。したがって、LLM の操作リスクを低減する効果的な対策は A オプションです。