#tokens
4 páginas con esta etiqueta.
Roadmap
2Nivel 00 · Fundamentos
Qué es un LLM, cómo se mide en tokens, qué cabe en su contexto y cómo hacer tu primera llamada a la API midiendo coste y latencia.
Tokens: la unidad con la que se mide todo
Qué es un token, por qué no coincide con una palabra y cómo contarlos con la API antes de enviar una petición para controlar coste y límites.
Cursos
1El contexto como presupuesto
Por qué el contexto de un modelo es un recurso finito que cuesta dinero, latencia y atención, y cómo medir cuánto ocupa cada componente de tu agente.
Docs
1Ventana de contexto
Qué cuenta dentro de la ventana de contexto, cómo medirla antes de enviar, qué ocurre al llenarla y estrategias para mantener el historial bajo control.