En el reconocido evento AWS re:Invent 2024, Amazon ha sorprendido a la comunidad tecnológica con el lanzamiento de una innovadora función para su plataforma de aprendizaje automático, Amazon SageMaker. A partir de ahora, los puntos de inferencia de SageMaker podrán escalarse hasta llegar a cero instancias, una capacidad largamente esperada que promete cambiar drásticamente la forma en que los clientes manejan la inferencia de inteligencia artificial (IA) y el aprendizaje automático (ML) en entornos cloud.
Tradicionalmente, los puntos de inferencia de SageMaker mantenían un umbral mínimo de instancias activas para asegurar su disponibilidad constante, independientemente de la actividad o el tráfico presente. No obstante, con esta nueva funcionalidad, los usuarios tendrán la oportunidad de gestionar los recursos de manera mucho más eficiente, ajustando el uso según sus necesidades específicas y los patrones de tráfico. Esta mejora permite una reducción potencial en los costos cuando la demanda de recursos es baja, al tiempo que se siguen beneficiando de las capacidades de autoescalado previamente disponibles en SageMaker.
La función de escalado a cero es especialmente útil en tres tipos de escenarios: aquellos con patrones de tráfico previsibles, tráfico esporádico o variable, y durante fases de desarrollo y prueba. No obstante, aunque la posibilidad de reducir los costos es significativa, es fundamental que las organizaciones analicen detenidamente cuándo y en qué circunstancias aplicar esta funcionalidad, ya que no será igual de beneficiosa en todos los casos.
Esta nueva capacidad requiere el empleo de componentes de inferencia, lo que permite a los usuarios establecer políticas de escalado que aprovechen esta innovación. Aunque el ahorro en costos es un atractivo indudable, las empresas deben considerar también que podrían enfrentar pequeños retrasos al reescalar las instancias hacia arriba.
La recepción de esta nueva función ha sido positiva, con empresas de la talla de Atlassian e iFood mostrando su intención de incorporarla para optimizar sus operaciones de IA y ML. Con esta iniciativa, Amazon SageMaker sigue a la vanguardia, proporcionando soluciones de aprendizaje automático más eficientes y económicas en la nube, y ofreciendo a las compañías herramientas para afinar su gestión tecnológica con precisión incomparable.
