Empezar aquí

#costes

15 páginas con esta etiqueta.

Roadmap

6

  • Condiciones de parada y presupuesto

    Pon límites de pasos, tokens, max_tokens y tiempo a tu agente, pide aprobación antes de acciones delicadas y decide qué devolver cuando se agota el presupuesto.

  • Control de costes y prompt caching

    Dónde se va el dinero en un agente, cómo cachear el prefijo con cache_control y cómo comprobar con usage que la caché funciona de verdad.

  • Coste y latencia: medir antes de optimizar

    Cómo medir tokens, tiempo total y tiempo hasta el primer token de cada llamada, convertirlo en coste y registrar todo para decidir con datos.

  • El coste de multiplicar agentes

    Por qué un sistema multiagente multiplica los tokens, cómo medir el gasto por rol con usage y qué palancas lo reducen sin perder calidad.

  • Nivel 100 · Producción

    Lleva un agente a usuarios reales con trazas, control de costes y latencia, defensas contra inyección, aprobación humana y un despliegue que aguanta fallos.

  • Tokens: la unidad con la que se mide todo

    Qué es un token, por qué no coincide con una palabra y cómo contarlos con la API antes de enviar una petición para controlar coste y límites.

Cursos

1

  • El contexto como presupuesto

    Por qué el contexto de un modelo es un recurso finito que cuesta dinero, latencia y atención, y cómo medir cuánto ocupa cada componente de tu agente.

Docs

2

  • Costes y límites

    Cómo leer usage, qué palancas reducen el coste (caché, lotes, modelo, contexto) y cómo manejar límites de tasa y errores 429 y 529 con reintentos y backoff.

  • Prompt caching

    Referencia del prompt caching con cache_control, puntos de corte, TTL, orden del prefijo, campos de usage y causas habituales de fallos de caché.

Recetas

1

  • Recortar costes con prompt caching

    Cachea la parte fija de tus peticiones (sistema, herramientas, documentos) con cache_control y comprueba con usage cuántos tokens se leen de caché.

Glosario

4

  • Esfuerzo (effort)

    Parámetro que orienta cuánto razonamiento y cuántos tokens dedica el modelo a una respuesta, de bajo a máximo.

  • max_tokens

    Parámetro obligatorio que fija el máximo de tokens que el modelo puede generar en una respuesta; es un límite duro.

  • Prompt caching

    Reutilizar un prefijo de la petición ya procesado para que las siguientes llamadas cuesten menos y respondan antes.

  • Token

    Unidad mínima de texto que procesa el modelo, normalmente un trozo de palabra; con ella se miden contexto, coste y límites.

Radar

1