En el ámbito empresarial, la precisión en la recuperación de información mediante asistentes de inteligencia artificial generativa se ha convertido en un pilar esencial. Esta tecnología busca reducir las alucinaciones y mejorar la precisión general de las respuestas. El método de Generación Aumentada por Recuperación (RAG) se ha destacado como la técnica preferida para ofrecer respuestas confiables utilizando datos específicos de la empresa. Este enfoque se aplica en diversas áreas como asistentes de IA, búsqueda de información y generación de insights en tiempo real, elevando la calidad de los contenidos producidos.
Amazon ha lanzado Amazon Bedrock Knowledge Bases, un servicio que simplifica la implementación de RAG al encargarse de tareas complejas como la ingesta de datos, fragmentación de información y coincidencia de consultas. Sin embargo, cuando se trabaja con un gran volumen de documentos, las respuestas pueden depender de una selección limitada de resultados iniciales, afectando así su precisión.
Para abordar este desafío, Nippon Life India Asset Management Limited ha implementado una solución que mejora la precisión de las respuestas más allá del RAG convencional. Mediante el uso de métodos avanzados de reordenamiento y reutilización de respuestas, han logrado mayor exactitud, superando las limitaciones del método tradicional como la falta de precisión con altos volúmenes de documentos y la dificultad en procesar preguntas complejas.
Los desarrolladores han adoptado estrategias innovadoras para superar estas barreras, incluyendo extracción de información adicional, reformulación de preguntas y creación de fragmentos personalizados. Nippon ha implementado un ciclo de trabajo de RAG avanzado, almacenando fragmentos en bases de datos vectoriales para una búsqueda más eficiente.
Con Amazon Bedrock, la empresa ha optimizado su RAG mediante el reordenamiento de resultados y análisis semántico. Esto ha mejorado notablemente la calidad de las respuestas, incrementando su precisión a más del 95% y reduciendo alucinaciones entre un 90 y 95%. Además, el tiempo para generar informes ha disminuido de dos días a solo diez minutos.
Este avance tecnológico sugiere un futuro prometedor para las empresas que optan por soluciones RAG, explorando innovaciones como GraphRAG y la filtración de metadatos, prometiendo una interacción mejorada con la información y optimización en la toma de decisiones en el entorno empresarial.
