Amazon ha anunciado el lanzamiento de SageMaker HyperPod, un revolucionario sistema diseñado para potenciar el desarrollo de modelos de inteligencia artificial a una escala sin precedentes. Este innovador sistema permite a las organizaciones explotar el poder de las GPUs NVIDIA Blackwell en un único sistema, prometiendo establecer una nueva era de avances en inteligencia artificial.
Con un impresionante rendimiento que alcanza los 360 petaflops en cálculo de punto flotante denso (FP8) y 1.4 exaflops en cálculo de punto flotante disperso (FP4), los P6e-GB200 UltraServers representan la última innovación en el campo. Basados en la arquitectura NVIDIA GB200 NVL72, estos servidores ofrecen un rendimiento superior en el desarrollo y despliegue de modelos con mil billones de parámetros, esenciales para las aplicaciones más sofisticadas de inteligencia artificial.
La integración de los servidores Ultra con el entorno distribuido del SageMaker HyperPod facilita que las organizaciones escalen rápidamente sus proyectos de IA, reduzcan tiempos de inactividad y simplifiquen el paso del entrenamiento al despliegue. Los P6e-GB200 UltraServers fusionan 36 CPUs NVIDIA Grace con 72 GPUs Blackwell en un único dominio NVLink, permitiendo un acceso sin precedentes a recursos computacionales y optimizando la eficiencia del proceso de formación de modelos.
Además, la solución se distingue por una capacidad de red de alto rendimiento, proporcionando hasta 130 TBps de ancho de banda NVLink de baja latencia, lo cual mejora significativamente la comunicación en tareas de IA a gran escala. El apoyo de hasta 405 TB de almacenamiento NVMe SSD local también optimiza el proceso al permitir un acceso rápido a grandes volúmenes de datos.
La adopción de SageMaker HyperPod con los UltraServers representa un avance significativo hacia un entrenamiento y despliegue de modelos más ágiles y eficaces, beneficiando especialmente a organizaciones que gestionan múltiples equipos y proyectos, maximizando la utilización de la infraestructura y reduciendo costes operativos.
Las capacidades de UltraServer están disponibles a través de planes flexibles en la zona local de AWS en Dallas, permitiendo a las organizaciones acceder fácilmente a estas potentes herramientas y avanzar en sus esfuerzos de inteligencia artificial. La tecnología está al alcance de quienes se registren en la consola de SageMaker, marcando un hito en la capacidad de las empresas para desarrollar y aplicar IA avanzada en diversos sectores.
