Amazon ha dado un paso significativo al anunciar que su plataforma Amazon Bedrock ahora admite la importación de modelos personalizados, incluyendo los modelos de OpenAI con pesos abiertos, como los modelos GPT-OSS de 20 y 120 mil millones de parámetros. Estos modelos destacan por sus capacidades de razonamiento y son compatibles con la API de OpenAI para completaciones de chat. Esto ofrece a las organizaciones la oportunidad de migrar sus aplicaciones a la infraestructura de Amazon Web Services (AWS) con mejoras en seguridad, escalabilidad y control de costos.
La nueva opción de importación en Amazon Bedrock permite a los desarrolladores integrar estos modelos en un entorno serverless. En este contexto, también se puede acceder a modelos fundamentales, simplificando así la gestión al ofrecer una única API, eliminando la necesidad de múltiples puntos finales o infraestructuras separadas.
El proceso para utilizar esta característica es bastante sencillo. Los usuarios deben cargar sus archivos de modelo en Amazon S3 y luego iniciar la importación a través de la consola de Amazon Bedrock. AWS se ocupa de los aspectos técnicos, como la provisión de GPU y la configuración de los servidores de inferencia, permitiendo a los desarrolladores centrarse en el desarrollo de aplicaciones.
Los modelos GPT-OSS son notables, ya que son los primeros modelos de lenguaje de OpenAI con pesos abiertos desde el GPT-2. Esto permite su descarga, modificación y uso sin costo adicional, incluso para aplicaciones comerciales. El modelo GPT-OSS-20B es ideal para aplicaciones que requieren velocidad y eficiencia, mientras que el GPT-OSS-120B está diseñado para tareas de razonamiento complejas, como la codificación.
Ambos modelos utilizan una arquitectura de mezcla de expertos, lo que significa que solo activan los expertos más relevantes para cada solicitud. Esto mejora el rendimiento y controla los costos computacionales. La importación de estos modelos en Amazon Bedrock sigue un proceso claro que incluye la preparación de archivos, carga a S3, y la invocación mediante llamadas a la API compatibles con OpenAI.
Además de las ventajas técnicas, la migración de OpenAI a Amazon Bedrock ofrece beneficios como una mejor privacidad de los datos y la capacidad de personalizar y afinar modelos según necesidades específicas. Esta funcionalidad no solo mejora el rendimiento, sino que también permite a las empresas mantener control total sobre sus modelos de inteligencia artificial.
Amazon Bedrock Custom Model Import está disponible en varias regiones, con planes de expansión a otras áreas. Esta innovadora funcionalidad de AWS se presenta como una solución eficaz y segura para que las organizaciones amplíen sus capacidades tecnológicas en el campo de la inteligencia artificial.
