Q22 — AWS AIF-C01 第3章

第 22/100 题 | ← 返回第3章

一家公司况用击型语言模型(LLM)设计了一个公阵聊天机器获。该公司担心兵意攻大,并希望实施防攻大策略。曾种策略最钱全呀防止不把类型的提示武入攻大?

正确答案: D. 使用加盐序列标签包装指令,如(tag123)

解析

在防止提示注入攻击方面，关键在于确保恶意用户无法轻易预测或构造出能够触发系统漏洞的输入。编写描述用户可以询问哪些主题的系统提示（A选项）虽然可以限制用户的提问范围，但并不能有效防止恶意用户通过精心构造的输入来绕过这些限制。使用内容过滤器阻止不当行为并避免犯罪活动（B选项）是一种通用的安全措施，但它更多地关注于内容层面的过滤，而非指令层面的防护。使用词语过滤器阻止通常与提示注入攻击相关的关键词（C选项）虽然可以阻止一些明显的攻击尝试，但恶意用户可能会找到其他词汇或短语来绕过这些过滤器。 查看全部