La inteligencia artificial generativa está ganando popularidad en el ámbito empresarial debido a su versatilidad y su potencial para abordar una variedad de casos de uso. El verdadero valor de los modelos fundacionales se realiza cuando se adaptan a datos específicos de dominio. Sin embargo, gestionar estos modelos a lo largo del negocio y su ciclo de vida puede introducir complejidad. A medida que los modelos se adaptan a diferentes dominios y datos, operacionalizar estos flujos de trabajo se vuelve crítico.
Amazon SageMaker, un servicio completamente gestionado para construir, entrenar y desplegar modelos de aprendizaje automático, ha visto un aumento en la adopción para personalizar y desplegar modelos fundacionales que potencian aplicaciones de inteligencia artificial generativa. SageMaker proporciona características ricas para construir flujos de trabajo automatizados y mejorar la excelencia operativa en la gestión de modelos, destacando su Registro de Modelos, que ayuda a catalogar y gestionar versiones de modelos y facilita la colaboración y la gobernanza. Una vez entrenado y evaluado un modelo, puede ser almacenado en el Registro de Modelos para su gestión.
Recientemente, Amazon SageMaker ha lanzado nuevas funciones en su Registro de Modelos que facilitan la versión y el catálogo de modelos fundacionales. Los usuarios pueden utilizar SageMaker para entrenar o ajustar los modelos fundacionales, incluyendo modelos de SageMaker JumpStart y de Amazon Bedrock, y también gestionar estos modelos dentro del Registro de Modelos. A medida que los clientes comienzan a escalar aplicaciones de inteligencia artificial generativa para tareas específicas de dominio, el número de modelos puede crecer rápidamente. Para llevar un seguimiento de los modelos, versiones y metadatos asociados, el Registro de Modelos de SageMaker se puede usar como un inventario de modelos.
Model Registry ha funcionado bien para modelos tradicionales, que son más pequeños en tamaño. Para modelos fundacionales, había desafíos debido a su tamaño y los requisitos de intervención del usuario para la aceptación de los acuerdos de licencia de usuario final. Con las nuevas características de Model Registry, se ha facilitado registrar un modelo fundacional ajustado, que luego puede ser desplegado para su uso actual.
Un ciclo de vida típico de desarrollo de modelos es un proceso iterativo. Se realizan muchos ciclos de experimentación para lograr el rendimiento esperado del modelo. Una vez entrenados, estos modelos pueden ser registrados en el Registro de Modelos donde se catalogan como versiones. Los modelos pueden organizarse en grupos, las versiones pueden compararse por sus métricas de calidad, y los modelos pueden tener un estado de aprobación asociado que indique si es desplegable.
Una vez que el modelo es aprobado manualmente, se puede desencadenar un pipeline de integración continua y despliegue continuo para desplegar estos modelos en producción. Opcionalmente, el Registro de Modelos puede utilizarse como un repositorio de modelos aprobados para uso empresarial. Varios equipos luego pueden desplegar estos modelos aprobados desde el Registro de Modelos y construir aplicaciones a su alrededor.
Model Registry ha lanzado dos nuevas funciones para soportar mejor las aplicaciones de inteligencia artificial generativa: ModelDataSource y URI del modelo fuente. ModelDataSource permite registrar artefactos de modelo sin comprimir y aceptar la EULA sin necesidad de intervención del usuario. Esto reduce la latencia al iniciar los endpoints de SageMaker, ya que elimina la necesidad de descomprimir los modelos en tiempo de ejecución.
La función URI del modelo fuente admite la población automática de archivos de especificación de inferencia para algunos IDs de modelo reconocidos, permitiendo registrar modelos propietarios de JumpStart sin necesidad del archivo de especificación de inferencia. Esto permite a las organizaciones utilizar un conjunto más amplio de modelos fundacionales en el Registro de Modelos.
A medida que las organizaciones continúan adoptando inteligencia artificial generativa en diferentes partes de su negocio, tener una gestión y versionado robustos de modelos se vuelve primordial. Con Model Registry, se puede lograr control de versiones, seguimiento, colaboración, gestión del ciclo de vida y gobernanza de los modelos fundacionales, empoderando a las organizaciones para gobernar y adoptar inteligencia artificial generativa y alcanzar resultados transformadores. Para más información sobre Model Registry, visite la consola de SageMaker.
