Nemotron 3 Super, el más reciente avance en modelos híbridos de Mixture of Experts, se ha lanzado como un modelo completamente gestionado y sin servidor en Amazon Bedrock. Este lanzamiento se une a los modelos Nemotron Nano ya disponibles en la plataforma, ofreciendo a desarrolladores la oportunidad de aprovechar su innovadora arquitectura para potenciar el rendimiento en aplicaciones de inteligencia artificial generativa.
El modelo, disponible con pesos abiertos, datasets y recetas, permite a los desarrolladores personalizar y desplegarlo en su propia infraestructura, mejorando aspectos críticos como la privacidad y la seguridad. Su eficiencia de cómputo y precisión lo posicionan como una solución ideal para aplicaciones de múltiples agentes y sistemas de inteligencia artificial especializada.
Una de las características distintivas del Nemotron 3 Super es su arquitectura MoE que incorpora el innovador diseño Hybrid Transformer-Mamba, logrando una eficiencia de rendimiento sin precedentes. Con una capacidad de 120 mil millones de parámetros y un contexto de hasta 256,000 tokens, el modelo puede manejar varios idiomas, entre ellos inglés, español, francés y japonés, alcanzando alta precisión en tareas de razonamiento y entornos multiculturales.
El modelo implementa técnicas avanzadas como la predicción de múltiples tokens (MTP), lo cual mejora el rendimiento en secuencias de razonamiento largas, optimizando la generación de respuestas complejas y estructuradas. Además, su uso de Latent MoE permite activar más expertos sin incrementar el costo de procesamiento, mejorando la especialización sobre complejas estructuras semánticas y patrones de razonamiento.
Nemotron 3 Super ofrece soluciones innovadoras para diversas industrias, desde la aceleración del procesamiento de préstamos en el sector financiero hasta la optimización de la gestión de inventarios en el comercio minorista, o la ayuda en el manejo de incidentes de ciberseguridad.
Para comenzar a utilizar Nemotron 3 Super en Amazon Bedrock, los pasos se han simplificado, requiriendo solo acceder a la consola de Amazon Bedrock, seleccionar el modelo y explorar sus capacidades.
Este nuevo modelo promete cambiar el enfoque con el que las organizaciones abordan la inteligencia artificial generativa, eliminando las complicaciones de gestión de infraestructura y promoviendo aplicaciones de razonamiento avanzado que cumplen con las demandas de rendimiento y versatilidad de la era digital.
