En 2024, prácticamente toda presentación comercial de inteligencia artificial para empresas brasileñas terminó con la misma diapositiva: «vamos a montar un RAG con tu base de conocimiento». En 2025, buena parte de esos proyectos está atrapada en una prueba de concepto interminable o ya se ha desactivado en silencio.
El problema no es RAG. La arquitectura funciona. El problema es que se vendió como una respuesta universal cuando, en la práctica, responde a un tipo muy específico de problema.
Qué resuelve RAG realmente
La generación aumentada por recuperación —Retrieval-Augmented Generation— hace bien una cosa: proporcionar a un modelo de lenguaje un contexto actualizado y específico del ámbito de la empresa, sin necesidad de volver a entrenar el modelo.
Casos en los que resulta útil:
- Base de documentos regulatorios: contratos, normas técnicas y manuales de cumplimiento. El modelo responde «qué dice la norma X sobre Y» citando el fragmento exacto.
- Soporte interno a equipos grandes: documentación repartida entre wikis, Confluence, Google Drive y correos antiguos. RAG reúne la información y responde.
- Atención a clientes en un ámbito estable: preguntas frecuentes dinámicas, políticas de producto y manuales técnicos.
En todos estos casos, el usuario hace una pregunta y la respuesta existe, textualmente, en algún documento que la empresa ya posee.
Dónde se atasca RAG
Cuando la respuesta exige combinar varios documentos de una forma no trivial. «¿Qué cliente tuvo el mayor crecimiento de ingresos considerando la combinación de productos contratados en los últimos 3 trimestres?» Eso no es recuperación, es análisis. RAG no lo resuelve.
Cuando los datos son estructurados. Si la información está en tablas de una base de datos, forzar un flujo RAG es ineficiente e impreciso. Un agente que escribe SQL lo resuelve mejor.
Cuando la base cambia continuamente. Los sistemas transaccionales con actualizaciones por segundo exigen otra arquitectura, o un proceso de reindexación muy costoso que hace inviable el proyecto.
Cuando la pregunta exige un razonamiento profundo entre fuentes. En ese caso, el camino es un sistema de agentes, con herramientas y varios pasos, no un RAG tradicional.
El costo real de un RAG en producción
Quien vende RAG como «solo conectarlo a tu base» omite la parte costosa:
- Reindexación continua de los documentos: los embeddings no son gratuitos.
- Almacén vectorial en producción: Pinecone, Weaviate o alojamiento propio; todos tienen costos operativos.
- Llamadas a un LLM por cada pregunta: con un volumen alto, esto se convierte en una partida importante del presupuesto.
- Reordenación para mejorar la calidad de los resultados recuperados.
- Evaluación continua de la calidad de las respuestas: sin ella, el sistema se degrada en silencio.
Un RAG corporativo serio suele costar entre R$ 8 mil y R$ 40 mil al mes en infraestructura y LLM, sin contar el desarrollo inicial. Si ese costo supera al del problema que resuelve, el proyecto no tiene retorno: ese es uno de los errores más comunes en los proyectos de IA.
Antes de contratar un proyecto de RAG
Tres preguntas que valen más que cualquier diapositiva técnica:
- ¿Cuál es exactamente la pregunta que quiere responder el usuario final? Si la respuesta implica cálculos, agregaciones o razonamiento entre fuentes, RAG no es la herramienta adecuada.
- ¿Quién mantendrá actualizada la base? Sin un responsable claro de la selección y el mantenimiento del contenido, la calidad cae en seis meses.
- ¿Cuál es la métrica de éxito en cifras, en lugar de «quedó bien»? Tiempo medio de respuesta a consultas internas, volumen de solicitudes de soporte evitadas, tiempo dedicado a buscar información en Drive: elige una y mídela antes y después.
RAG funciona. Simplemente no es el martillo que sirve para todos los clavos.
Este artículo fue escrito por el equipo técnico de Allogic Tecnologia. Para conversar sobre proyectos de IA a medida, agenda una conversación de 15 minutos.