Hoy, estamos emocionados de anunciar que el modelo Snowflake Arctic Instruct ya está disponible a través de Amazon SageMaker JumpStart para su despliegue y ejecución de inferencias. Snowflake Arctic es una familia de grandes modelos de lenguaje (LLMs) de clase empresarial diseñados por Snowflake, que destacan por sus habilidades en consultas SQL, codificación y seguimiento preciso de instrucciones.
Snowflake Arctic ha sido construido específicamente con una arquitectura híbrida de transformadores y técnicas de entrenamiento eficientes. Cuenta con un modelo denso de transformadores de 10 mil millones de parámetros combinado con una red de expertos (MoE) residual de 480 mil millones de parámetros distribuidos en 128 expertos especializados. Esta estructura permite un uso más eficiente de los recursos durante el entrenamiento y la inferencia, maximizando la capacidad de inteligencia empresarial sin incrementar significativamente los costos.
El modelo se ha entrenado en tres fases distintas con más de 3.5 billones de tokens para abarcar habilidades genéricas y especializadas, enfocándose en datos de empresas en las últimas dos fases. Esto asegura que Snowflake Arctic no solo sea eficiente en costos, sino también extremadamente competente en tareas empresariales, tales como manipulación de datos en SQL y generación de código.
La integración de Snowflake Arctic en Amazon SageMaker JumpStart permite a los desarrolladores desplegar y gestionar modelos de machine learning rápidamente. SageMaker JumpStart proporciona una vasta selección de modelos preentrenados y soluciones de ML, facilitando un inicio rápido en el desarrollo de aplicaciones de machine learning.
La implementación en Amazon SageMaker Studio es simple. El modelo Arctic Instruct está disponible en la región us-east-2, con futuras expansiones a otras regiones. Los desarrolladores pueden acceder a los modelos a través del UI de SageMaker Studio o programáticamente usando el SDK de Python de SageMaker, permitiendo una mayor personalización y control en la operación de machine learning.
El uso de Snowflake Arctic se extiende a múltiples aplicaciones empresariales como resúmenes de texto largos, generación de código, razonamiento matemático, y generación de consultas SQL, apoyando a las empresas a optimizar y automatizar tareas complejas.
Después de utilizar el modelo, es esencial limpiar los recursos para evitar costos adicionales. La eliminación de los modelos y puntos de conexión se puede realizar directamente desde la consola de SageMaker Studio.
Finalmente, Snowflake Arctic Instruct en SageMaker JumpStart no solo ofrece una solución potente y eficiente para empresas, sino que también ayuda a reducir los costos de entrenamiento y despliegue de modelos, permitiendo personalizaciones específicas para cada caso de uso empresarial.
