Definición
La temperatura controla la aleatoriedad del muestreo del LLM. En 0, el modelo elige el token de mayor probabilidad en cada paso (determinista). En 1, muestrea normalmente. Por encima de 1, se vuelve cada vez más aleatorio y creativo — útil para ideación, peligroso para producción. La mayoría de los endpoints de producción establecen la temperatura en 0 o cerca de cero.
Ejemplo
Un generador de SQL se ejecuta a temperatura 0 — quiere la misma consulta cada vez. Un asistente de lluvia de ideas se ejecuta a 0.7 — quiere variedad.
Cómo Vedwix usa esto
Predeterminado es 0 para producción. Cualquier cosa por encima de 0.5 necesita una razón clara.
Trabajando en un proyecto de Temperatura?
Temperatura.
Cuéntanos sobre tu proyecto en tres frases o menos.
Iniciar un proyecto