Q30 — AWS AIF-C01 第1章

第 30/100 問 | ← 第1章

ある企業が、Amazon Bedrock上の大型言語モデル(LLM)を用いて感情分析を行いたいと考えています。この企業は、LLMが与えられた入力プロンプトに対して一貫性のある応答を返すことを求めています。これらの要件を満たすために、推論パラメータをどのように調整すべきですか?

正解: A. 温度(temperature)値を下げる。

解説

この問題は、大規模言語モデルの推論パラメータ調整に関する理解を問うものです。感情分析のようなタスクでは、出力の一貫性と決定性が重要です。温度値が低いほど、モデルの出力はより確実で一貫性が高くなります。温度値を上げると出力の多様性・ランダム性が増し、一貫性が損なわれます。出力トークン長や最大生成長の変更は、応答の一貫性には直接影響しません。したがって、一貫性を高めるには温度値を下げることが適切です。