Las universidades de investigación que operan en el ámbito de la inteligencia artificial (IA) y la computación de alto rendimiento (HPC) se enfrentan a obstáculos significativos en su infraestructura, lo que ralentiza la innovación y retrasa los avances científicos. Los tradicionales clústeres locales de HPC presentan desafíos como ciclos prolongados para la adquisición de GPU, limitaciones de escalabilidad y complejos requisitos de mantenimiento, lo que restringe la agilidad de los investigadores en el desarrollo de tareas de IA como el procesamiento de lenguaje natural y la visión por computadora.
En respuesta a estos desafíos, Amazon ha introducido SageMaker HyperPod, una solución diseñada para aliviar las cargas operativas que conlleva la construcción de modelos de IA. Esta herramienta permite una rápida escalabilidad en el desarrollo de modelos, facilitando tareas como el entrenamiento y la inferencia en un clúster que puede incluir cientos o incluso miles de aceleradores de IA, como las GPU de NVIDIA H100 y A100.
Recientemente, una universidad implementó SageMaker HyperPod para impulsar su investigación en IA, empleando particiones dinámicas de SLURM, gestión eficiente de recursos de GPU y balanceo de carga de nodos, todo dentro del entorno de SageMaker HyperPod. Este enfoque innovador permite a los investigadores acceder fácilmente a las herramientas necesarias, sin los problemas típicos asociados a las infraestructuras tradicionales.
La arquitectura de SageMaker HyperPod está diseñada para soportar operaciones de aprendizaje automático a gran escala, gestionada completamente por AWS, lo cual elimina la sobrecarga operativa y garantiza altos niveles de seguridad y rendimiento. Los investigadores pueden usar diversas opciones de conexión seguras que optimizan el tráfico y mejoran la interacción con el clúster, permitiendo así una experiencia fluida y eficiente.
El sistema de almacenamiento utilizado se basa en Amazon FSx para Lustre y Amazon S3, asegurando un acceso rápido a archivos de alto rendimiento y un almacenamiento seguro de datos críticos para el entrenamiento de modelos. La implementación se realizó en varias etapas, empezando por la configuración inicial de AWS y adaptando el clúster SLURM para cumplir con las necesidades específicas de investigación.
Para un uso óptimo y control de costos, cada recurso dentro de SageMaker HyperPod recibió un identificador único, permitiendo un seguimiento detallado del gasto mediante AWS Budgets y AWS Cost Explorer. Además, se integró un sistema de Active Directory que ofrece acceso seguro para los investigadores y un control centralizado sobre las identidades de los usuarios.
Estas implementaciones prometen un cambio significativo en la computación de investigación, ofreciendo a las instituciones académicas la capacidad de acelerar la innovación en IA y concentrarse en sus objetivos científicos, sin las complicaciones de las infraestructuras tradicionales.
