Optimiza las Recomendaciones de Inicio Rápido con vLLM en AWS Trainium

Los sistemas de recomendación se enfrentan a un desafío tecnológico conocido como el «cold start». Este problema surge cuando un nuevo usuario o contenido llega a una plataforma sin historial de comportamiento, lo que impide que el motor de recomendaciones identifique adecuadamente sus intereses. Esta falta de personalización inicial coloca a los usuarios dentro de segmentos genéricos, afectando las tasas de clics y conversiones e incluso alejando a algunos antes de que el sistema pueda aprender sus preferencias.

Tradicionalmente, las soluciones como el filtrado colaborativo o las listas de popularidad no logran abordar este problema con la sutileza necesaria. Sin embargo, la innovación en inteligencia artificial ofrece una solución prometedora para superar el inicio frío mediante la generación de perfiles de interés detallados desde el primer día. A través del uso de modelos de lenguaje de gran escala, es posible crear representaciones detalladas de usuarios y contenido sin necesidad de acumular semanas de datos de interacción, transformando la experiencia de iniciación en una bienvenida cálida y personalizada.

Para implementar esta solución, se ha adoptado un enfoque que emplea los chips de Amazon EC2 Trainium. Estos optimizan la implementación de modelos a través de contenedores de aprendizaje profundo (DLC) con el AWS Neuron SDK, lo que permite a los ingenieros experimentar con diversas configuraciones de modelos de lenguaje y encoders. Esto garantiza iteraciones rápidas y eficientes en las métricas de recomendación sin la necesidad de modificar el código base.

En el desarrollo de esta tecnología, se utilizó el conjunto de datos de reseñas de libros de Amazon. Este recurso proporciona valiosas reseñas de usuarios y metadatos de miles de libros, permitiendo simular escenarios de «cold start» donde un usuario nuevo puede tener solo una reseña disponible. Utilizando un modelo de lenguaje para enriquecer los perfiles de usuario a partir de datos iniciales limitados, se pueden inferir subtemas que podrían resultar de interés para el usuario.

El proceso siguiente convierte tanto los intereses expandidos como el catálogo de libros en vectores comparables mediante codificadores como Google T5. Se analiza cómo los diferentes tamaños de codificadores afectan la calidad de las recomendaciones, utilizando índices FAISS para realizar búsquedas rápidas. Esta evaluación demuestra que, a medida que aumenta el tamaño de los modelos, las señales generadas se vuelven más discriminativas, optimizando así las recomendaciones.

Finalmente, está previsto implementar estos modelos en un entorno de producción para asegurar que los perfiles enriquecidos estén preparados para emparejarse con una mayor variedad de contenido. Esta iniciativa subraya cómo el uso adecuado del aprendizaje automático puede revolucionar los sistemas de recomendación, mejorando significativamente la experiencia del usuario desde su primer contacto.

Scroll al inicio