OpenAI ha introducido dos nuevos modelos de lenguaje de código abierto, denominados gpt-oss-120b y gpt-oss-20b, con 117 mil millones y 21 mil millones de parámetros, respectivamente. Estos modelos han sido aclamados en las evaluaciones de Artificial Analysis por su capacidad para realizar tareas de razonamiento y manejar flujos de trabajo dinámicos, gracias a su diseño basado en la Mezcla de Expertos (MoE) y una amplia ventana de contexto de 128K.
Los usuarios ahora pueden personalizar y desplegar estos modelos a través de Amazon SageMaker AI, empleando un servicio completamente gestionado que ofrece una notable flexibilidad. Esto es posible mediante Amazon SageMaker Inference, que permite integrar código propio sin la necesidad de administrar complejos clústeres.
Aunque los modelos de lenguaje como estos son excelentes en la comprensión y generación de contenido, la implementación en aplicaciones autonómicas reales requiere una gestión eficiente de flujos de trabajo y capacidades de llamada a herramientas. Las arquitecturas de múltiples agentes facilitan la descomposición de sistemas complejos en componentes especializados, aunque añaden desafíos en la coordinación de agentes y la orquestación de flujos.
En un artículo reciente, se detalló cómo desplegar el modelo gpt-oss-20b en los endpoints gestionados de SageMaker. Se presentó como ejemplo un asistente analizador de acciones que utiliza LangGraph, un marco basado en gráficos para manejar la gestión de estado y los flujos de trabajo coordinados. Posteriormente, los agentes serán desplegados en Amazon Bedrock AgentCore, que ofrece una orquestación unificada y segura para operaciones de agentes de IA a gran escala.
La innovadora solución incluye un analizador de acciones, con componentes clave como el modelo GPT OSS 20B, LangGraph para la orquestación de agentes, y Amazon Bedrock AgentCore para el despliegue. Esta arquitectura es fácilmente observable, permitiendo al usuario enviar consultas que son evaluadas por agentes especializados.
Este enfoque guía a los usuarios para configurar entornos, gestionar permisos y desplegar eficientemente, destacando la importancia de herramientas como vLLM y Amazon Elastic Container Registry para un hospedaje optimizado. Así, se reduce el tiempo de análisis y se aumenta la productividad, liberando recursos para tareas más estratégicas.
Se anima a los desarrolladores a experimentar con los ejemplos de código y a adaptar los flujos de trabajo a diferentes casos de uso, subrayando el potencial de los modelos de código abierto en la mejora de procesos.
