Las ciudades y los gobiernos locales buscan constantemente mejorar sus servicios no urgentes, reconociendo que las soluciones inteligentes y escalables para centros de contacto son fundamentales para mejorar la experiencia del ciudadano. InterVision Systems, LLC, socio de servicios Premier de AWS y socio de entrega de servicios de Amazon Connect, está liderando esta transformación con su solución de centro de contacto, específicamente diseñada para servicios municipales, conocida como ConnectIV CX para el Compromiso Comunitario. Esta solución ya optimiza la entrega de servicios municipales mediante la automatización impulsada por inteligencia artificial y la participación omnicanal. Sin embargo, InterVision identificó la oportunidad de mejorar aún más sus capacidades con inteligencia artificial generativa avanzada.
Para ello, InterVision aprovechó el programa AWS LLM League con el fin de acelerar su desarrollo de IA generativa para centros de contacto no urgentes. Con el inicio de los eventos de la AWS LLM League en América del Norte, esta iniciativa marcó un hito en la democratización del aprendizaje automático, permitiendo a los socios construir soluciones de IA generativa prácticas para sus clientes.
Los arquitectos de soluciones, ingenieros y equipos de ventas de InterVision participaron en la optimización de modelos de lenguaje a gran escala utilizando Amazon SageMaker AI, específicamente en escenarios de servicio municipal. Esta experiencia permitió a la empresa perfeccionar su solución ConnectIV CX, mostrando cómo los socios de AWS pueden desarrollar y desplegar rápidamente soluciones de IA específicas para su dominio.
El programa AWS LLM League demuestra un enfoque innovador para democratizar el aprendizaje automático mediante una habilitación gamificada. Se reconfirma que, con las herramientas y la orientación adecuadas, casi cualquier rol, desde arquitectos de soluciones hasta analistas empresariales, puede afinar y desplegar modelos de IA generativa sin necesidad de ser expertos en ciencia de datos.
La competencia se divide en tres etapas, comenzando con un taller práctico donde los participantes aprenden a afinar modelos de lenguaje. Luego, pasan a una fase intensiva de desarrollo de modelos donde iteran en múltiples enfoques de afinación, preparando conjuntos de datos y utilizando técnicas de aumento. Finalmente, se someten a un sistema de clasificación dinámico que evalúa cada modelo según su rendimiento contra métricas específicas.
El programa culmina en una final interactiva estructurada como un concurso, donde los participantes más destacados muestran las capacidades de sus modelos a través de desafíos en tiempo real. Las respuestas se evalúan mediante un sistema de triple juicio que involucra a expertos, métricas de rendimiento y participación del público, asegurando que los modelos sean evaluados no solo por su rendimiento técnico, sino también por su aplicabilidad práctica.
El «fine-tuning» es un proceso de aprendizaje por transferencia que entrena un modelo preentrenado en un nuevo conjunto de datos sin comenzar desde cero. Este enfoque puede producir modelos precisos con conjuntos de datos más pequeños y menos tiempo de entrenamiento. Aunque los modelos de lenguaje más grandes ofrecen capacidades generales impresionantes, el ajuste fino de modelos más pequeños para dominios específicos generalmente ofrece resultados excepcionales a un menor costo. Por ejemplo, un modelo de 3 mil millones de parámetros puede superar a modelos de 70 mil millones en tareas especializadas, requiriendo menos recursos computacionales.
El programa AWS LLM League fue adaptado específicamente para la solución ConnectIV CX de InterVision. Este ajuste permite un manejo preciso de los procedimientos y respuestas específicas de los municipios, ofreciendo un costo operativo reducido en comparación con modelos más grandes y tiempos de inferencia más rápidos para mejorar la experiencia del cliente.
La solución se centra en SageMaker JumpStart, que ayuda a acelerar la trayectoria de aprendizaje automático. Con JumpStart, los practicantes de ML utilizan un entorno de bajo código para agilizar el proceso de ajuste fino y desplegar modelos personalizados en producción, reduciendo significativamente la complejidad de desarrollar modelos de IA especializados.
La participación en el AWS LLM League brindó a InterVision un camino práctico para mejorar sus capacidades de IA, permitiendo a los participantes aplicar inmediatamente lo aprendido a desafíos reales relacionados con su solución ConnectIV CX. El formato intensivo del programa demostró ser altamente efectivo, permitiendo a InterVision comprimir su ciclo de desarrollo de IA. Gracias al conocimiento adquirido, la empresa ha enriquecido sus discusiones técnicas con los clientes sobre la implementación de IA generativa, facilitando conversaciones más detalladas sobre la adopción de IA en escenarios de servicio al cliente. Esto ha llevado a la creación de un asistente virtual interno utilizando Amazon Bedrock, que sirve como prueba de concepto para soluciones similares para los clientes.
El programa AWS LLM League demuestra cómo la habilitación gamificada puede acelerar las capacidades de IA de los socios mientras impulsan resultados comerciales tangibles. A través de este enfoque, InterVision no solo mejoró sus capacidades técnicas en la afinación de modelos de lenguaje, sino que también aceleró el desarrollo de soluciones prácticas de IA para su entorno ConnectIV CX. A medida que las organizaciones continúan explorando implementaciones de IA generativa, la capacidad de desarrollar y desplegar modelos especializados de manera eficiente se vuelve cada vez más crítica.
