Nivel 30 · Contexto, memoria y RAG

Hasta ahora el modelo solo sabía lo que traía de serie y lo que tú escribías en el prompt. En este nivel aprendes a darle la información justa de tus propios documentos en cada llamada, y a que recuerde lo importante de una conversación a la siguiente. Es la base de casi cualquier asistente útil en una empresa.

Para quién es

Para quien ya sabe hacer llamadas a la API, pedir salida estructurada y usar herramientas (niveles 00 a 20). No necesitas saber matemáticas más allá del producto escalar, que se explica en la primera lección.

Qué vas a construir

El proyecto es un asistente sobre una carpeta de documentos. Lo montas pieza a pieza: cada lección añade una capa y al final tienes el sistema completo. La pieza central es la recuperación aumentada (RAG): buscar fragmentos relevantes y meterlos en el contexto antes de preguntar. El criterio de calidad está en el entregable: no basta con que responda bien; cada cita tiene que existir en el fragmento citado.

Lecciones

1. Embeddings: texto convertido en vectores. Qué es un vector de embedding, cómo se compara con similitud coseno y cómo montar una búsqueda semántica mínima con una función embed() independiente del proveedor.
2. Chunking: cortar sin romper el sentido. Cómo trocear documentos respetando su estructura, con solapamiento y metadatos. De aquí sale la mitad de la calidad de un RAG.
3. Búsqueda híbrida: vectorial + BM25. Por qué los vectores fallan con códigos y nombres propios, cómo funciona BM25 y cómo fusionar ambas listas con RRF.
4. Reranking: reordenar antes de responder. Recuperar mucho y quedarte con poco: reordenar candidatos con un modelo antes de pasarlos al contexto.
5. Responder con citas verificables. Fragmentos numerados en etiquetas XML, respuestas con citas literales y un verificador en código que las comprueba.
6. Memoria entre sesiones. Qué merece la pena recordar, resumen frente a hechos y cómo mantener un archivo de memoria sin que se llene de basura.

Después de este nivel

Con recuperación y memoria resueltas, el siguiente paso es dejar que el modelo decida qué hacer en un bucle: Nivel 40 · Tu primer agente. Si quieres profundizar en RAG antes, sigue con RAG a fondo o lee la ficha de sistema RAG con citas verificables.