En un innovador paso hacia la transformación digital de sus operaciones financieras, Amazon ha puesto en marcha un asistente de chat basado en inteligencia artificial generativa a través de su plataforma Amazon Bedrock. Esta herramienta busca optimizar significativamente el tiempo de respuesta ante las consultas de sus clientes, un desafío frecuente al que se enfrentaban previamente los analistas de Cuentas por Pagar y Cuentas por Cobrar de Amazon.
Anteriormente, el proceso para atender solicitudes de clientes requería que los analistas contactaran a expertos y revisaran múltiples documentos de políticas, lo que a menudo resultaba en esperas de horas o días. La carencia de acceso inmediato a la información, particularmente para los nuevos empleados, constituía un obstáculo considerable. Sin embargo, con la implementación del asistente de chat, este escenario está cambiando de manera radical.
El sistema se fundamenta en un modelo de lenguaje grande (LLM) que permite a los analistas acceder a respuestas precisas de manera instantánea dentro del mismo hilo de comunicación. Esta mejora ha reducido drásticamente el tiempo necesario para resolver las consultas de los clientes. El asistente de question-answering está construido sobre un pipeline de generación aumentada por recuperación (RAG), un avanzado sistema que opera gracias a Amazon Bedrock. Funciona recuperando documentos pertinentes de una vasto base de conocimientos, generando respuestas mediante el modelo de lenguaje que utiliza la información recopilada.
Los componentes técnicos del sistema incluyen una base de conocimientos administrada a través de Amazon OpenSearch Service, un modelo generador de respuestas facilitado por Amazon Bedrock, y varios mecanismos diseñados para asegurar la precisión y seguridad de las respuestas. Uno de estos importantes elementos es un motor de validación encargado de prevenir respuestas incorrectas o «alucinaciones.»
En cuanto a la precisión del asistente de chat, un aspecto fundamental para el desempeño en las operaciones financieras, Amazon ha aplicado estrategias avanzadas para mejorar su exactitud. Durante la fase inicial de desarrollo, solo el 49% de las respuestas eran consideradas correctas. Mediante la segmentación semántica de documentos y la ingeniería de prompts, la precisión ha sido incrementada hasta alcanzar un destacado 86%.
Este desarrollo no solamente subraya un cambio significativo en la utilización de tecnologías de inteligencia artificial generativa por parte de Amazon, sino que también marca un progreso notable en la reducción de tiempos de respuesta y mejora de la eficiencia operativa interna. La continua mejora y evaluación iterativa del asistente de chat posiciona a Amazon como un líder en la aplicación de inteligencia artificial en sus operaciones financieras.
