Amazon ha lanzado una avanzada solución para la clasificación automática de conversaciones, utilizando la inferencia por lotes de Amazon Bedrock en conjunto con el modelo Claude Haiku de Anthropic. Esta herramienta es de gran interés para empresas que deben procesar extensos volúmenes de datos diariamente, como los call centers de agencias de viajes. La tecnología ofrece un sistema eficiente y económico, con un descuento del 50% en comparación con los precios tradicionales bajo demanda.
La necesidad de clasificaciones precisas se extiende por diversas industrias, desde viajes hasta finanzas. La automatización ayuda a gestionar consultas de clientes, analizar oportunidades perdidas y administrar facturas. Sin embargo, implementar estos sistemas automatizados implica desafíos, especialmente en el manejo de grandes cantidades de datos textuales y en la garantía de precisión.
Para solucionar esto, se generó un conjunto de datos sintéticos de conversaciones con clientes, utilizando el modelo Claude 3.7 Sonnet. Las conversaciones incluyen temas como reservas, cambios y cancelaciones de vuelos. Este método protege la privacidad del usuario y ofrece un marco claro para la clasificación.
La solución tecnológica es escalable y opera con un diseño sin servidor, orientado a eventos. Cuando se recibe una solicitud en un bucket de Amazon S3, el sistema de Amazon Bedrock procesa grandes cantidades de datos, reduciendo la necesidad de supervisión manual. Los resultados se organizan en formatos accesibles como CSV, JSON o XLSX.
Durante pruebas con 1.190 conversaciones sintéticas, los tiempos de procesamiento oscilaron entre 11 y 12 minutos por lote, logrando una precisión del 100%. La solución se diseñó con buenas prácticas de seguridad y optimización de costos en mente.
A pesar de su eficacia, enfrenta algunas limitaciones, como la necesidad de un tamaño de lote mínimo de 100 clasificaciones y posibles variaciones en los tiempos de procesamiento, dependiendo de la carga de trabajo. Además, es importante limpiar los recursos de AWS tras el uso para evitar costos adicionales.
Esta innovación tecnológica promete mejorar el servicio al cliente y optimizar las operaciones en múltiples sectores, al reducir el tiempo en tareas manuales y extraer información valiosa de los datos clasificados.
