Q7 — AWS AIF-C01 第2章

第 7/100 問 | ← 第2章

ある企業が、Amazon Bedrock上でホストされている基礎モデルを、ファイショットプロンプトで活用しています。現在、このモデルはプロンプト内で10個の例を使用しています。モデルは毎日1回呼び出され、良好なパフォーマンスを発揮しています。企業は月間コストを削減したいと考えています。 この要件を満たすソリューションはどれですか？

正解: B. プロンプト内のトークン数を減らす。

解説

Amazon Bedrock上でホストされる基礎モデルのコストは、プロンプト内のトークン数に比例します。企業は月間コストを削減したいと考えており、現状ではプロンプトに10個の例が含まれ、毎日1回のみ呼び出されて良好なパフォーマンスを発揮しているため、プロンプト内のトークン数を削減することでコストを下げつつ、モデルのパフォーマンスに影響を与えないことが可能です。モデルのファインチューニングはカスタマイズには有効ですが、コスト削減には必ずしもつながりません。プロンプト内のトークン数を増加させるとコストが上昇する可能性があります。また、事前設定されたスループットは、モデルの応答速度およびスループットに影響を与えますが、コスト削減とは直接関係ありません。したがって、プロンプト内のトークン数を減らすことが、企業の月間コスト削減要件を満たすソリューションです。 詳細を見る