Q97 — AWS AIF-C01 第1章

第 97/100 問 | ← 第1章

ある企業が、大規模言語モデル（LLM）を用いた推論生成に関連するコストを評価したいと考えています。同社はAmazon Bedrockを活用することを希望しています。 このコストを上昇させる要因はどれですか？

• A. 消費されたトークン数 ✓
• B. 温度（Temperature）値
• C. LLMのトレーニングに使用されたデータ量
• D. 総トレーニング時間

正解: A. 消費されたトークン数

解説

大規模言語モデル（LLM）を用いた推論生成に関連するコストを評価する際、消費されたトークン数が推論コストの上昇を決定づける鍵となる要因です。トークン数は推論コストに直接影響し、トークン数が増えるほど、モデルがより多くのテキストデータを処理する必要があり、計算およびストレージの需要が増加します。温度値は生成されるテキストの創造性および多様性に主に影響を与え、データ量は推論コストへの直接的影響は小さく、トレーニング時間は推論コストと関連していますが、Amazon Bedrockを通じて直接評価される要素ではありません。