El avance en el desarrollo de la inteligencia artificial (IA) está impulsando a las máquinas hacia niveles de autonomía nunca antes vistos, aumentando así la demanda de transparencia y explicabilidad. En un reciente panel de expertos, profesionales destacados, entre ellos Keshavan Seshadri de Prudential Financial y Pankaj Agrawal de LinkedIn, debatieron sobre las implicaciones de confiar en sistemas de IA autónomos.
Saradha Nagarajan, ingeniera de datos en Agilent Technologies, enfatizó que la confianza es esencial para lograr la explicabilidad. Según ella, comprender el funcionamiento interno de los modelos de IA permite una mejor adaptación y confianza en las predicciones hechas por las máquinas. Destacó la necesidad de establecer pautas éticas claras y mecanismos de auditoría que se ejecuten tanto antes como después de implementar la IA.
Pankaj Agrawal añadió que, especialmente en sectores regulados, la transparencia es crucial. Subrayó la importancia de tener una supervisión que asegure que las decisiones de la IA se alineen con un conjunto definido de normas éticas y operativas, lo cual es particularmente importante en aplicaciones de alto riesgo.
Por otro lado, Dan Chernoff de Parallaxis sugirió que las cuestiones éticas están más relacionadas con el gobierno y la alineación con normas que con consideraciones éticas puramente. Insistió en la importancia de rastrear las decisiones de la IA hasta sus datos de entrada para detectar y corregir posibles errores.
Keshavan Seshadri discutió el impacto de regulaciones, como la Ley de IA de la UE, en la forma en que la industria aborda el riesgo. Destacó la importancia de que los diseñadores de sistemas de IA mapearan las decisiones de los agentes a niveles definidos de riesgo para identificar sesgos y construir sistemas más seguros y robustos.
La discusión también señaló la necesidad de colaboración interfuncional para desarrollar una IA responsable. La inclusión de diversas partes interesadas es crucial para el éxito. Se enfatizó que construir IA responsable requiere un esfuerzo conjunto de líderes de producto, equipos de seguridad y otros colaboradores.
Finalmente, los expertos coincidieron en la importancia del diseño específico del dominio. En sectores regulados, se necesita un enfoque que ajuste tanto las entradas como las salidas de los sistemas de IA, asegurando que se alineen con políticas y restricciones específicas. Este enfoque es clave para desarrollar sistemas confiables y seguros adaptados a las necesidades de cada sector.
