Alucinación

Una alucinación es una salida del modelo que suena segura y coherente pero es falsa o no se apoya en ningún dato que el modelo tenga delante: una cita inventada, una función de una librería que no existe, una cifra sin origen. Ocurre porque un LLM genera el texto más probable dado el contexto, y lo probable no siempre coincide con lo cierto.

En la práctica

No se elimina, se acota. Las palancas que funcionan: dar al modelo las fuentes en el contexto (RAG), pedirle que cite el fragmento exacto en que se apoya, permitirle decir «no lo sé» y comprobar las citas con código. En agentes, las herramientas reducen el problema porque el modelo consulta datos reales en lugar de recordarlos.

No confundir con

• Error de razonamiento: el modelo tiene los datos correctos y saca una conclusión equivocada. Se ataca con razonamiento o descomponiendo la tarea.
• Información desactualizada: era cierta cuando se entrenó el modelo y ya no lo es.

Ver también

• Grounding
• Responder con citas verificables
• RAG con citas verificables
• Qué es un LLM y qué no es