En un entorno empresarial cada vez más impulsado por las innovaciones tecnológicas, las compañías se enfrentan a una creciente necesidad de desarrollar metodologías eficaces para priorizar proyectos de inteligencia artificial generativa. Los desafíos son variados, desde evaluar el valor empresarial frente al costo y el esfuerzo requerido hasta abordar las preocupaciones sobre las «alucinaciones» de la IA, donde los agentes pueden tomar decisiones incorrectas, y un panorama regulatorio en constante cambio.
Una solución emergente para estas preocupaciones es la incorporación de prácticas de IA responsable en la priorización de proyectos. AWS, con su marco de trabajo bien definido, describe la IA responsable como el diseño, desarrollo y uso de tecnología de inteligencia artificial con el fin de maximizar beneficios y minimizar riesgos. Este marco establece ocho dimensiones clave: equidad, explicabilidad, privacidad y seguridad, seguridad general, controlabilidad, veracidad y robustez, gobernanza y transparencia.
Durante el ciclo de vida del desarrollo, es crucial que un equipo de IA generativa evalúe los daños potenciales y riesgos en cada dimensión, implementando mitigaciones adecuadas y supervisando continuamente estos riesgos. Esto es especialmente importante para los proyectos de IA generativa, donde los riesgos son nuevos y las soluciones pueden no ser completamente comprendidas.
Tener en cuenta la IA responsable desde el principio permite una visión más precisa del riesgo del proyecto y del esfuerzo necesario para mitigarlo, minimizando así la necesidad de rehacer trabajos cuando los riesgos son descubiertos posteriormente.
Muchas empresas ya poseen sus propios métodos de priorización, pero se ha demostrado la eficacia del método WSJF (Weighted Shortest Job First) del sistema Escaled Agile. Este método calcula la prioridad a través de la fórmula: Prioridad = (costo del retraso) / (tamaño del trabajo), integrando medidas de valor comercial, urgencia, oportunidades y esfuerzo necesario.
A modo de ejercicio práctico, se pueden comparar dos proyectos de IA generativa: uno que utiliza un modelo de lenguaje para generar descripciones de productos y otro que emplea un modelo de texto a imagen para crear visuales publicitarios. Inicialmente, el proyecto de visuales puede parecer más atractivo debido a su urgencia. Sin embargo, al incluir una evaluación de riesgos que abarque dimensiones de IA responsable, el proyecto de descripciones de productos muestra menor complejidad y costos de mitigación, sugiriendo que podría ser más adecuado para iniciar.
Las empresas deben fomentar el desarrollo de políticas de IA responsable y adoptar prácticas que impacten significativamente en la priorización de proyectos de IA generativa. Estas consideraciones son esenciales para evitar costos adicionales, construir confianza con los clientes y alinearse con un marco regulativo cada vez más exigente.
