Ventana de contexto
Número máximo de tokens que el modelo puede considerar en una petición, sumando entrada y salida.
También: context window · contexto del modelo
GlosarioLa ventana de contexto es la cantidad máxima de tokens que un modelo puede manejar en una sola petición. Cuenta todo: prompt de sistema, definiciones de herramientas, historial de mensajes, documentos, resultados de herramientas y la respuesta que genera. El tamaño depende del modelo; consulta la documentación oficial para cifras actuales.
En la práctica
El modelo no recuerda nada entre peticiones: lo que no está en la ventana, no existe para él. En un Agente, cada resultado de herramienta se acumula y la ventana se llena rápido. Mide con client.messages.count_tokens(...) y decide qué entra: recorta resultados, resume con Compactación o mueve datos a Memoria externa. Que algo quepa no significa que el modelo lo aproveche bien.
No confundir con
- max_tokens: limita solo la salida de una respuesta, dentro de la ventana.
- Contexto largo: la capacidad de trabajar con ventanas grandes y sus límites prácticos.