RAG alucina aunque recupera bien: cómo arreglar grounding y prompt
Depura un sistema RAG que recupera documentos correctos pero responde mal: logging del prompt completo, grounding estricto, citas y tests.
Respuesta corta para citar
Depura un sistema RAG que recupera documentos correctos pero responde mal: logging del prompt completo, grounding estricto, citas y tests. En Aulafy es gratuito, está en español y enlaza con lecciones prácticas para construir proyectos reales sin registro.
Para quién es
Para equipos que ya tienen búsqueda vectorial funcionando, pero no confían en las respuestas del modelo.
Qué conseguirás
Aprenderás a separar fallo de retrieval y fallo de generación, guardar trazas y obligar al modelo a responder solo con evidencia.
Retrieval no es respuesta
Que el chunk correcto aparezca no garantiza que el modelo lo use bien. Hay que revisar el prompt final y las reglas de abstención.
- Log de query, filtros y chunks.
- Prompt final completo.
- Citas verificables por afirmación.
Grounding estricto
El sistema debe decir no lo sé cuando el dato no está en documentos, aunque el modelo tenga conocimiento general.
- Temperatura baja.
- Instrucción de no usar conocimiento externo.
- Tests con preguntas sin respuesta.
Preguntas frecuentes
¿Por qué alucina si recupera bien?
Porque generación y recuperación son fases distintas. El modelo puede ignorar o completar mal el contexto.
¿Bajar temperatura basta?
Ayuda, pero necesitas prompt, citas, trazas y tests.
¿Qué log es imprescindible?
Query, chunks, filtros, prompt final, parámetros, respuesta y citas.