Q28 — AWS AIF-C01 第1章

第 28/100 問 | ← 第1章

ある企業が、大規模言語モデル（LLM）を用いた推論生成に関連するコストを評価したいと考えています。この企業は、Amazon Bedrockを用いて生成AIアプリケーションを構築したいと考えています。以下のうち、推論コストに影響を与える要因はどれですか？

• A. 消費されるトークン数 ✓
• B. 温度（temperature）値
• C. LLMのトレーニングに使用されたデータ量
• D. 総トレーニング時間

正解: A. 消費されるトークン数

解説

この問題は、大規模言語モデルによる推論コストに影響を与える要因について問うものです。生成AIアプリケーションの構築において、消費されるトークン数は直接的に計算リソースの使用量およびコストに結びつきます。温度値は出力のランダム性に影響を与えますが、コストの主要因ではありません。トレーニングデータ量および総トレーニング時間はトレーニング段階の指標であり、推論コストとは関係がありません。したがって、推論コストに影響を与えるのはAです。