Empezar aquí
Radar · Modelos

El razonamiento pasa a ser adaptativo

En los modelos actuales ya no fijas cuántos tokens puede pensar el modelo; activas el razonamiento adaptativo y regulas el esfuerzo.

Fuente: Documentación de la API de Claude

Publicado 1 min de lectura

Qué es

El razonamiento extendido se configuraba con un presupuesto manual de tokens (budget_tokens). En la API de Claude, los modelos actuales usan razonamiento adaptativo: lo activas con thinking={"type": "adaptive"} y el modelo decide cuánto pensar según la dificultad. Tú lo orientas con el esfuerzo, output_config={"effort": ...}, con niveles de low a max. No todos los modelos aceptan todos los niveles; consulta la documentación.

resp = client.messages.create(
    model=MODEL, max_tokens=16000,
    thinking={"type": "adaptive"},
    output_config={"effort": "medium"},
    messages=[{"role": "user", "content": pregunta}],
)

Qué cambia en la práctica

  • Dejas de afinar un número de tokens por tarea. Eliges un nivel de esfuerzo y mides.
  • effort es orientativo. El límite duro de gasto sigue siendo max_tokens.
  • La respuesta puede traer bloques thinking además de text: tu código debe leer el contenido por tipo de bloque, no por posición.

Qué hacer

  1. Migra las llamadas con budget_tokens al modo adaptativo y revisa max_tokens.
  2. Compara dos o tres niveles de esfuerzo con tu conjunto de evaluación: calidad, latencia y coste.
  3. Usa esfuerzo bajo en clasificación y extracción; súbelo en planificación y depuración. Detalles en Razonamiento y esfuerzo y Dejar pensar al modelo.