Un reciente estudio realizado por la Universidad de Waterloo ha revelado un innovador marco llamado Social Responsibility Stack (SRS), diseñado para enfrentar el desafío de mantener la ética y la responsabilidad en los sistemas de inteligencia artificial (IA). El enfoque propuesto sugiere que la responsabilidad social debería considerarse no solo un cumplimiento normativo, sino un control continuo integrado desde la concepción del sistema.
Los riesgos asociados con la IA están cada vez más presentes, con ejemplos de sistemas de salud que, aunque precisos al inicio, pueden desarrollar sesgos con el tiempo, o algoritmos de recomendación que crean cámaras de eco entre distintos grupos de usuarios. Estos problemas resaltan la necesidad de gestionar dinámicamente la ética en la IA, incorporando y supervisando los valores sociales desde el inicio y a lo largo de todo su ciclo de vida.
El SRS cuenta con seis capas interconectadas de responsabilidad. La primera, el «valor de enraizamiento», traduce conceptos abstractos como la justicia en restricciones tangibles, por ejemplo, estableciendo un umbral máximo para diferencias de tasas de falsos negativos entre grupos demográficos en un sistema hospitalario.
La segunda capa, «modelado de impacto socio-técnico», utiliza simulaciones para prever posibles daños y evalúa cómo un sistema de IA podría polarizar comunidades o provocar una dependencia excesiva de herramientas diagnósticas. La tercera capa integra salvaguardias de diseño con controles técnicos, asegurando que parámetros críticos de equidad estén presentes en el entrenamiento del sistema.
El marco también contempla interfaces de retroalimentación conductual, ajustando las interacciones entre usuarios y el sistema para evitar una confianza ciega en las recomendaciones del IA. Otra capa crucial es la auditoría social continua, que supervisa el rendimiento del sistema, activando intervenciones automáticas ante desviaciones de los umbrales definidos.
Finalmente, la capa superior incorpora gobernanza e inclusión de partes interesadas, apoyada por consejos y juntas de revisión, asegurando un proceso de gobernanza activo.
Esta innovadora metodología combina la teoría del control con la ética de la IA, estructurando la gobernanza como un problema de control de bucle cerrado, definiendo métricas cuantificables para evaluar el cumplimiento de valores sociales a lo largo del tiempo y haciendo de la transparencia un componente clave de la rendición de cuentas en la ingeniería de IA.
El estudio ofrece tres casos de aplicación del SRS: un sistema de soporte de decisiones clínicas que monitorea sesgos en la atención médica, una red de vehículos autónomos que garantiza decisiones éticamente cuidadosas, y un sistema automatizado para la determinación de beneficios en el sector público que audita continuamente sus efectos.
La principal contribución del SRS es explicitamente definir decisiones sobre compromisos de valor, permitiendo a los ingenieros navegar por las tensiones entre precisión, equidad y transparencia. En un futuro donde la IA será central en decisiones críticas, el SRS ofrece una guía para que la gobernanza de la IA sea una disciplina de ingeniería activa y continua, abordando la complejidad de la responsabilidad social de manera proactiva.
