Empezar aquí

#prompt-caching

4 páginas con esta etiqueta.

Roadmap

1

  • Control de costes y prompt caching

    Dónde se va el dinero en un agente, cómo cachear el prefijo con cache_control y cómo comprobar con usage que la caché funciona de verdad.

Docs

1

  • Costes y límites

    Cómo leer usage, qué palancas reducen el coste (caché, lotes, modelo, contexto) y cómo manejar límites de tasa y errores 429 y 529 con reintentos y backoff.

Recetas

1

  • Recortar costes con prompt caching

    Cachea la parte fija de tus peticiones (sistema, herramientas, documentos) con cache_control y comprueba con usage cuántos tokens se leen de caché.

Radar

1