Amazon ha lanzado oficialmente los filtros de contenido de imagen en Amazon Bedrock Guardrails, una innovadora herramienta diseñada para moderar tanto contenido de texto como de imagen en aplicaciones de inteligencia artificial generativa. Anteriormente, esta poderosa función estaba restringida solamente a moderar texto, pero con la inclusión de imágenes, se amplían enormemente las posibilidades de control y gestión del contenido generado por inteligencia artificial.
Tero Hottinen, quien se desempeña como Vicepresidente de Alianzas Estratégicas en KONE, ha resaltado la importancia de esta innovación tecnológica. Hottinen considera que Amazon Bedrock Guardrails es crucial para proteger aplicaciones de IA generativa, especialmente cuando se trata de verificar la relevancia y el contexto del contenido. KONE está planeando integrar esta tecnología en sus aplicaciones para incluir diagramas de diseño de productos y manuales, mejorando así el diagnóstico y análisis de contenido multimodal a través de estas nuevas medidas de seguridad.
Amazon Bedrock Guardrails ofrece a sus usuarios la posibilidad de establecer salvaguardias personalizables, bloqueando tanto entradas como salidas perjudiciales. Seis políticas distintas están disponibles, incluyendo detectores de alucinaciones del modelo y filtros de contenido, que pueden eliminar hasta el 88% del contenido multimodal potencialmente dañino. Los desarrolladores ahora tienen el poder de combinar la moderación de imágenes y texto, con la flexibilidad de ajustar los umbrales de contenido según sus necesidades, de bajo a alto.
La disponibilidad de esta funcionalidad se extiende a varias regiones de AWS, incluidas US East, US West, Europa y Asia-Pacífico. Organizaciones de diversos sectores, como la salud, manufactura, servicios financieros, medios de comunicación y educación, pueden mejorar significativamente la seguridad de su marca sin necesidad de crear salvaguardias personalizadas o realizar evaluaciones manuales, que a menudo son propensas a errores.
Para implementar los filtros de contenido de imagen, los usuarios deben crear un guardrail en la consola de gestión de AWS y configurar los filtros deseados. También existe la opción de utilizar el API independiente ApplyGuardrail para validar contenido en cualquier flujo de aplicación integrado.
Este avance representa un importante paso hacia un uso más responsable y seguro de la inteligencia artificial, promoviendo la creación de aplicaciones que se alineen con las políticas de IA responsable de cada organización.
