Saltar al contenido
Hablar de tu producto
EdTech y plataformas educativasConfiabilidad4 min de lectura

Por qué falla el RAG sobre contenido educativo

Respuesta corta

El RAG sobre contenido educativo falla por razones propias del material: el video sin transcribir queda afuera del índice, la partición ciega corta ejemplos por la mitad, el alumno pregunta con palabras que no están en el texto, la secuencia pedagógica se rompe y el material tiene versiones. Ninguna se arregla cambiando de modelo.

La recuperación aumentada funciona bien sobre documentación técnica: texto estructurado, vocabulario consistente, cada sección responde una cosa. Sobre material de un curso funciona notablemente peor, y el equipo que viene de haber hecho lo primero se sorprende.

Las causas no son de modelo. Son cinco propiedades del contenido educativo que rompen supuestos que el RAG da por sentados.

1. La mitad del contenido es video, y el video no está en el índice

En muchas plataformas educativas, la explicación que el alumno necesita está dicha en voz, no escrita. Si el video no está transcripto, el índice contiene los apuntes complementarios y el nombre del módulo, y el tutor responde con la fracción escrita del curso mientras el alumno sabe que la respuesta estaba en la clase.

Esto se percibe como que «la IA no sabe del curso», y en realidad es que nunca se le mostró el curso.

La transcripción es el primer trabajo y el más caro del proyecto en catálogos grandes. También es el que más rinde: sin él, todo lo demás está construido sobre la mitad del material.

2. La partición ciega corta los ejemplos

La forma estándar de partir un documento —cada tantos caracteres, con solapamiento— asume que el texto es homogéneo. El material educativo no lo es: está hecho de unidades que sólo tienen sentido enteras.

Un ejercicio resuelto tiene enunciado, desarrollo y resultado. Un ejemplo tiene planteo y conclusión. Una demostración tiene hipótesis y pasos. Si el corte cae en el medio, el índice queda con un fragmento que no responde nada, y lo que se recupera es la mitad del razonamiento.

La partición tiene que seguir la estructura pedagógica del material, no una cuenta de caracteres. Es trabajo manual y es la intervención con mejor relación entre esfuerzo y mejora en la recuperación.

3. El alumno no usa las palabras del material

Esta es la asimetría central del dominio, y la que menos se anticipa.

El que pregunta es exactamente el que todavía no aprendió el vocabulario. Escribe «lo del gráfico que sube y después se cae» cuando el material dice «función con máximo local». Escribe «el error ese del punto y coma» cuando el material habla de errores de sintaxis. La búsqueda semántica ayuda bastante acá, pero tiene un límite: no puede unir dos textos que no comparten ningún concepto expresado.

Lo que funciona es enriquecer el índice con el vocabulario de los alumnos: las preguntas del foro, las consultas al soporte, los mensajes de la cohorte anterior. Es contenido que la plataforma ya tiene y que casi nunca se indexa.

4. La secuencia pedagógica importa y al índice no le importa

Un curso está diseñado para que ciertas cosas se aprendan antes que otras. La recuperación no sabe eso: si la mejor respuesta a la pregunta de un alumno de la unidad dos está en la unidad siete, la trae.

El resultado es un tutor que responde correctamente y arruina el diseño del curso, adelantando material que el alumno no está en condiciones de usar, y a veces desbloqueando contenido de un plan que no pagó.

El filtro por alcance del alumno —cursos en los que está inscripto, unidades ya abiertas— no es una restricción incómoda que se agrega después. Es parte de qué significa que la respuesta sea correcta en este dominio.

5. El material tiene versiones y el índice tiene una sola

Los cursos se actualizan. Cambia una normativa, se rehace una unidad, se corrige un ejercicio. Si no hay proceso de reindexado, el índice conserva la versión vieja y el tutor la cita con total seguridad.

En educación este error es peor que en otros dominios, porque el alumno no tiene forma de detectarlo: para eso está tomando el curso. Y la cita, que es lo que hace confiable al sistema, acá lo hace convincentemente incorrecto.

El requisito es un proceso de reindexado atado a la publicación de contenido, y la fecha de la versión visible en la respuesta.

Cómo se ordena el diagnóstico

Cuando un tutor educativo responde mal, la primera pregunta no es sobre el modelo. Es dónde se rompió la cadena:

Síntoma Causa probable
Responde con generalidades correctas pero no del curso El pasaje no está en el índice
Responde con medio razonamiento Partición cortó la unidad
No encuentra nada con la pregunta del alumno, sí con la del profesor Vocabulario
Responde con material de una unidad posterior Falta filtro de alcance
Cita algo que ya no está en el curso Índice desactualizado

Ninguna de esas cinco filas mejora cambiando el modelo. Todas mejoran trabajando el contenido, que es la parte del proyecto que no se puede comprar hecha y la que decide si el tutor sirve.

Preguntas relacionadas

¿Cambiar el modelo de embeddings mejora la recuperación?
Marginalmente, y casi nunca es el cuello de botella. Cuando la recuperación falla sobre material educativo, la causa está en la preparación del contenido —qué está indexado, cómo está partido, qué metadatos tiene— en una proporción muy alta de los casos. Cambiar de modelo es la intervención más visible y la de menor retorno.
¿Cómo se mide si la recuperación está funcionando?
Con un set de preguntas reales de alumnos y el pasaje correcto anotado a mano para cada una. Se mide qué porcentaje de las veces el pasaje correcto aparece entre los recuperados. Sin ese set, cualquier evaluación del tutor mezcla dos errores distintos: no encontró el pasaje, o lo encontró y respondió mal.
¿Hay que transcribir todo el video antes de empezar?
No, y conviene no hacerlo. Se transcriben primero los cursos con más alumnos activos, se mide el uso de la búsqueda ahí y con ese dato se decide cuánto más del catálogo justifica el gasto. Transcribir el catálogo entero antes de saber si la función se usa es la forma más común de gastar el presupuesto en la parte equivocada.

Escrito por

Equipo Vantalogics

Estudio de producto e ingeniería de IA para educación. Construimos agentes especializados y el software necesario para convertirlos en productos reales.

Seguí por acá

Escribinos por WhatsApp