定義
温度はLLMサンプリングのランダム性を制御します。0では、モデルは各ステップで最も確率の高いトークンを選びます(決定論的)。1では、通常通りサンプリングします。1を超えると、ますますランダムで創造的になります — アイデア出しに有用、本番環境では危険です。ほとんどの本番エンドポイントは温度を0またはゼロに近く設定します。
例
SQLジェネレーターは温度0で実行されます — 毎回同じクエリが必要です。ブレインストーミングアシスタントは0.7で実行されます — 多様性が必要です。
Vedwixでの使用方法
本番のデフォルトは0です。0.5を超えるものには明確な理由が必要です。