NVIDIA ha anunciado el lanzamiento de su innovador modelo Nemotron 3 Nano 30B, ahora disponible en el catálogo de Amazon SageMaker JumpStart. Este modelo, que ofrece un poderoso conjunto de 3 mil millones de parámetros activos, está diseñado para impulsar la innovación empresarial, facilitando la implementación de aplicaciones de inteligencia artificial generativa sin las complejidades típicas de su despliegue.
El Nemotron 3 Nano se distingue por su alta eficiencia computacional y precisión, factores que permiten a los desarrolladores ejecutar tareas altamente especializadas a gran escala. Basado en un modelo de mezcla de expertos (MoE), el sistema integra una estructura Transformer-Mamba y maneja un presupuesto de tokens que optimiza la generación de razonamientos. Sus componentes, incluidos los pesos y conjuntos de datos, son totalmente abiertos, lo que permite personalizar y adaptar el modelo a las necesidades específicas de cada empresa, garantizando además privacidad y seguridad.
Entre sus notables características se encuentran su desempeño en tareas de codificación y razonamiento científico, así como su capacidad para resolver problemas matemáticos complejos. Destaca también en benchmarks de referencia como LiveCodeBench y GPQA Diamond. El modelo cuenta con una capacidad de ventana contextual de hasta un millón de tokens y es textualmente versátil en entradas y salidas.
Los interesados en utilizar Nemotron 3 Nano deben contar con un dominio de Amazon SageMaker Studio provisionado. Desde esta plataforma, los usuarios pueden buscar y desplegar el modelo fácilmente, utilizando ya sea la interfaz de línea de comandos de AWS o código Python a través del SageMaker SDK.
Disponible de manera totalmente gestionada en SageMaker JumpStart, este modelo simplifica considerablemente su implementación y uso. Los desarrolladores pueden acceder a documentación detallada y ejemplos de código en el repositorio de GitHub de NVIDIA. Con este lanzamiento, NVIDIA aspira a facilitar la integración de modelos de inteligencia artificial generativa, promoviendo que más empresas aprovechen el potencial de estas avanzadas tecnologías.
