#parametros
4 páginas con esta etiqueta.
Guía de modelos
1Parámetros: max_tokens, temperatura y compañía
Qué hace cada parámetro de generación (max_tokens, temperature, top_p, stop_sequences, effort), valores de partida razonables y los errores más comunes.
Glosario
3max_tokens
Parámetro obligatorio que fija el máximo de tokens que el modelo puede generar en una respuesta; es un límite duro.
Temperatura
Parámetro de muestreo que controla cuánta aleatoriedad hay al elegir cada token de la respuesta.
Top-p
Parámetro de muestreo que limita la elección de cada token a los más probables cuya probabilidad acumulada llega a p.