Hybrid RAG sin nube: búsqueda en documentos corporativos

# # RAG Híbrido en Sistemas Corporativos: Búsqueda de Documentos Sin la Nube ni Fugas de Datos

Las grandes empresas en industrias reguladas enfrentan un problema común: buscar documentos internos toma horas. Un gerente de logística, por ejemplo, pierde tiempo rebuscando en correos electrónicos, SharePoint y archivos para revisar el historial de reclamaciones contra un proveedor. La culpable es la falta de una búsqueda inteligente que capte el significado de la consulta, no solo palabras clave. El RAG híbrido resuelve esto manteniendo los datos firmemente dentro del perímetro de la empresa.

Por Qué la Búsqueda Tradicional Falla en Industrias Reguladas

Los archivos corporativos son una mezcla de PDFs, escaneos, hojas de cálculo y correspondencia bilingüe. Los sistemas ECM estándar y motores de búsqueda luchan con datos heterogéneos. Una consulta como «¿Hubo disputas por el código 8471300000?» exige tanto comprensión semántica como coincidencias numéricas exactas. El RAG estándar basado en búsqueda semántica se queda corto cuando los documentos incluyen tablas, notas manuscritas o contenido multilingüe. En bancos, aduanas y firmas legales, los datos no pueden salir del perímetro: las soluciones en la nube están prohibidas por requisitos arquitectónicos.

El RAG híbrido combina dos enfoques:

• Búsqueda semántica (vectores densos) para captar el significado
• Búsqueda exacta (vectores dispersos) para códigos, SKUs y números

Esto no es solo un revoltijo: es una fusión matemáticamente fundamentada de resultados mediante Reciprocal Rank Fusion (RRF). El algoritmo funciona sin ajuste manual de pesos ni entrenamiento adicional e integra perfectamente con bases de datos vectoriales como Qdrant.

Arquitectura de RAG Híbrido Autoalojado: Del Documento a la Respuesta

El procesamiento de consultas involucra seis etapas, cada una crítica para la seguridad y precisión:

• Preprocesamiento de documentos — La biblioteca Docling normaliza escaneos a 300 DPI, extrae tablas y estructura. Esto es esencial para el modelo multimodal Qwen2.5-VL, que maneja notas manuscritas y tablas complejas.
• Generación de embeddings duales — El modelo BAAI/bge-m3 crea dos vectores por fragmento: denso (semántica) y disperso (coincidencias exactas). Usar un solo modelo para indexación y consultas asegura compatibilidad espacial.
• Búsqueda híbrida en Qdrant — Consultas simultáneas en vectores densos y dispersos con fusión automática RRF.
• Reranqueo preliminar — FastEmbed reduce la lista a 10 candidatos en 30–50 ms.
• Reranqueo final — El cross-encoder bge-reranker-v2-m3 evalúa la relevancia del fragmento a la consulta específica. La versión autoalojada añade 150–400 ms de latencia, pero mantiene los datos internos.
• Generación de respuesta — El modelo cuantizado Qwen2.5-72B-Instruct (AWQ INT4) elabora la respuesta a partir del contexto filtrado.

La característica clave: todo se ejecuta localmente. Incluso el reranqueo, que los servicios en la nube (como Voyage AI) aceleran, se maneja con componentes autoalojados para cumplir con las normas de soberanía de datos.

Herramientas de Producción: Por Qué LangGraph y Haystack Son Esenciales

LangChain funciona para prototipos, pero en entornos regulados surgen dos problemas. Primero, no hay gestión nativa de estado: manejar escenarios como «si la puntuación de reranqueo está por debajo del umbral, reformula la consulta» requiere parches. LangGraph lo soluciona con nodos de grafo explícitos, cruciales para depuración en producción.

Segundo, brechas en observabilidad. Sin rastreo, las caídas de calidad (por actualizaciones de documentos o cambios en patrones de consultas) pasan desapercibidas hasta las quejas de usuarios. Langfuse autoalojado rastrea:

• Fragmentos recuperados
• Puntuaciones de reranqueo
• Latencia etapa por etapa

Crucialmente, Langfuse se ejecuta dentro del perímetro también; de lo contrario, los datos corporativos se filtran a SaaS de terceros.

Haystack maneja pruebas preproducción. Cambios en pipelines (como estrategias de fragmentación) permiten ejecutar evaluaciones en un conjunto de referencia y obtener métricas:

• Precisión de búsqueda (con qué frecuencia el documento correcto está en el top 5)
• Fidelidad de la respuesta a las fuentes

Esto genera confianza en que los cambios mejoran el sistema, no lo degradan. LlamaIndex es flexible para prototipos, pero se queda atrás en profundidad de evaluación integrada.

Optimización de Infraestructura: De RTX 4090 a A100

La elección del modelo depende del presupuesto y necesidades de calidad:

• Qwen2.5-72B-Instruct en AWQ INT4 — opción insignia. Requiere dos GPUs A100 80GB, ofrece calidad máxima, especialmente con tablas. Ideal para grandes firmas legales o bancos.
• Qwen2.5-32B-Instruct — punto dulce. Se ejecuta en una L40S 48GB (3x más barata que A100), reteniendo el 90% de la calidad del 72B. Punto de partida recomendado.
• Qwen2.5-14B-Instruct — para recursos limitados. Cabe en RTX 4090, pero lucha con consultas multistep complejas.

Consejo pro: Empieza con 32B en L40S, prueba con datos reales, escala solo si es necesario. La cuantización AWQ INT4 reduce a la mitad el uso de memoria sin pérdida crítica de calidad.

Lecciones Clave

• El RAG híbrido es esencial para archivos desordenados: combina búsqueda semántica y coincidencias exactas vía RRF.
• La arquitectura autoalojada es innegociable para sectores regulados. Los datos permanecen en el perímetro en cada paso.
• LangGraph y Haystack son imprescindibles en producción: el primero gestiona la lógica de consultas en tiempo real, el segundo ofrece verificaciones objetivas de calidad.
• Los costos de infraestructura son optimizables: Qwen2.5-32B en L40S iguala el 90% del rendimiento insignia a un tercio del costo.

El sistema responde en segundos, citando documentos y páginas específicas, y admite lagunas de datos en lugar de alucinar. Esto no es solo una búsqueda mejor: es un cambio de la rutina tediosa al acceso inteligente al conocimiento sin compromisos de seguridad.

— Editorial Team