Amazon ha presentado Amazon Bedrock Guardrails, una innovadora herramienta diseñada para establecer salvaguardias configurables que permitan desarrollar aplicaciones de inteligencia artificial generativa de confianza a gran escala. Este avance tecnológico integra medidas de seguridad y privacidad que son compatibles con diversos modelos base, tanto aquellos disponibles en Amazon Bedrock como otros alojados fuera de su plataforma. A través de una API independiente llamada ApplyGuardrail, las organizaciones pueden implementar políticas de inteligencia artificial responsable de manera eficiente y escalable.
Amazon Bedrock Guardrails introduce seis salvaguardias clave: filtros de contenido, temas denegados, filtros de palabras, filtros de información sensible, controles de contextualización y Checks de Razonamiento Automatizado, cuya finalidad es prevenir contenido no deseado y asegurar que las interacciones de inteligencia artificial se alineen con políticas responsable de cada empresa.
Uno de los retos que enfrentan las organizaciones radica en equilibrar los controles de seguridad con los requisitos de rendimiento y de lenguaje, que varían según la aplicación. Para abordar esto, Amazon ha desarrollado un sistema de niveles de salvaguardia que permite seleccionar medidas adecuadas según las necesidades específicas. Por ejemplo, una empresa de servicios financieros puede preferir una protección integral y multilingüe para asistentes de inteligencia artificial dirigidos a clientes, mientras que para herramientas de análisis interno, puede optar por salvaguardias más específicas y ágiles.
Las nuevas opciones de niveles de salvaguardia se dividen en dos categorías: el «nivel clásico», que conserva el comportamiento actual de las Guardrails de Amazon Bedrock, y un «nivel estándar», que ofrece soporte multilingüe para más de 60 idiomas y mejoras en la detección de contenido potencialmente dañino.
La introducción de estos niveles de salvaguardia busca optimizar la protección basada en el contexto de uso. Las empresas pueden seleccionar configuraciones mezcladas para diferentes políticas de control, como filtros de contenido y temas prohibidos, permitiendo un enfoque más personalizado por aplicación.
Para evaluar los resultados, se recomienda crear conjuntos de datos de prueba que incluyan ejemplos tanto seguros como dañinos, incluso casos límite, para medir la efectividad de las guardrails. La API ApplyGuardrail permite verificar el comportamiento de estas salvaguardias sin incurrir en costos asociados a las respuestas de modelos de lenguaje de gran tamaño.
A medida que las organizaciones continúan adoptando la inteligencia artificial, la introducción de niveles de salvaguardia en Amazon Bedrock Guardrails representa un avance significativo. Permite a las empresas desarrollar aplicaciones innovadoras, éticas y confiables, alineadas con sus valores y regulaciones, asegurando así la confianza del usuario.
