Amazon ha dado un paso significativo en la mejora del desarrollo de aplicaciones de inteligencia artificial al introducir la inferencia global cross-Region en la región de AWS Cape Town. Esta nueva función permite a los desarrolladores en Sudáfrica invocar modelos desde Ciudad del Cabo, mientras Amazon Bedrock dirige las solicitudes a regiones con capacidad disponible. Esto asegura tiempos de respuesta constantes y una experiencia confiable para los usuarios.
La inferencia cross-Region está disponible con modelos como Claude Sonnet 4.5, Haiku 4.5 y Opus 4.5, proporcionando a los clientes sudafricanos acceso a perfiles de inferencia global que mejoran el rendimiento y la resiliencia. Esta característica optimiza los recursos y permite un mayor rendimiento especialmente en períodos de alta demanda. Además, se gestionan los logs de forma centralizada en la región de origen, simplificando la supervisión y el control.
El proceso de inferencia global se realiza a través de la red segura de AWS, garantizando que los datos se mantengan protegidos tanto en tránsito como en reposo. Aunque el procesamiento puede ocurrir en otra región, los datos almacenados, como logs y bases de conocimiento, permanecen en la región de origen, protegiendo la información sensible.
Para implementar esta función, los desarrolladores deben usar el ID del perfil de inferencia global y configurar los permisos necesarios mediante AWS Identity and Access Management (IAM). Esto asegura que las solicitudes sean autorizadas y procesadas correctamente.
Los interesados en la inferencia cross-Region pueden solicitar aumentos de cuota a través de la consola de AWS Service Quotas en la región específica, adaptándose así a la carga presupuestaria del uso de modelos de inferencia.
Aunque la inferencia cross-Region se presenta como una opción flexible, las organizaciones deben evaluar su adecuación a requisitos de seguridad y cumplimiento, considerando leyes como la Ley de Protección de Información Personal de Sudáfrica (POPIA). Para aquellos que determinan que no es apropiado, existen opciones para desactivar la inferencia global, garantizando control y seguridad en el manejo de datos.
