Temperatura

Definição

A temperatura controla a aleatoriedade da amostragem do LLM. Em 0, o modelo escolhe o token de maior probabilidade a cada passo (determinístico). Em 1, amostra normalmente. Acima de 1, fica cada vez mais aleatório e criativo — útil para ideação, perigoso para produção. A maioria dos endpoints em produção define a temperatura em 0 ou próximo de zero.

Exemplo

Um gerador de SQL roda em temperatura 0 — você quer a mesma consulta toda vez. Um assistente de brainstorming roda em 0,7 — você quer variedade.

Como a Vedwix usa isto

Padrão é 0 para produção. Qualquer coisa acima de 0,5 precisa de uma razão clara.