Q97 — AWS AIF-C01 第1章

第 97/100 题 | ← 返回第1章

一家公司想要评估况用击型语言模型（LLM）生成推论的付关成本；该公司希望况用Am0Z0n Bedreek来 曾个因素会推动推按成本的上升?

• A. 消耗的代币数量 ✓
• B. 温度值
• C. 用于训练LLM的数据量
• D. 总训练时间

正确答案: A. 消耗的代币数量

解析

在评估使用大型语言模型（LLM）生成推论的相关成本时，消耗的代币数量是决定推理成本上升的关键因素。代币数量直接影响模型的推理成本，代币数量越多，意味着模型需要处理更多的文本数据，从而增加了计算和存储的需求。温度值主要影响生成文本的创造性和多样性，数据量对推理成本的直接影响较小，而训练时间与推理成本相关，但不是通过AmazonBedrock直接评估的因素。 查看全部