Acuilae Labs ha realizado un avance significativo en la integración de la ética en los sistemas de inteligencia artificial al presentar Ethyka, un nuevo estándar que pretende trasladar las consideraciones éticas al comportamiento concreto de estos sistemas. La especificación de Ethyka se ha publicado de manera gratuita y abierta, proporcionando una herramienta crucial para asistir a los desarrolladores en el diseño ético de asistentes de atención, motores de recomendación, agentes autónomos y robots, entre otros. Esta iniciativa surge en un momento crítico, en sintonía con la entrada en vigor de las exigencias del Reglamento Europeo de IA para sistemas de alto riesgo.
La esencia de Ethyka reside en su capacidad para traducir las implicaciones éticas en documentos verificables, donde las organizaciones deben declarar de manera explícita ciertos compromisos. Estos incluyen acciones que siempre se realizarán, aquellas que estarán completamente prohibidas, restricciones sobre técnicas de manipulación, y la extensión de la autonomía del sistema. Además, Ethyka añade un conjunto adicional de normativas específicas para sistemas con un componente físico, como robots y drones.
El reciente reglamento europeo prohíbe prácticas manipulativas y la explotación de vulnerabilidades, sin embargo, hasta la fecha no existía un método claro para demostrar compliance. Ethyka responde a esta necesidad al identificar y clasificar prácticas manipulatorias, como la creación de urgencias artificiales o la explotación de emociones para reducir cancelaciones, convirtiéndolas en pruebas concretas y alineadas con el reglamento europeo. Para los sistemas robóticos, Ethyka introduce 19 normas verificables que maximizan la seguridad en las interacciones físicas humano-robot, estableciendo límites de fuerza, métodos de detención en emergencias y registros de malfuncionamientos.
Más allá de la mera declaración de intenciones, Acuilae Labs busca con Ethyka asegurar la integración práctica de principios éticos en los sistemas de inteligencia artificial. Para ello, propone un proceso en cuatro fases: diagnóstico, definición de límites, implementación de reglas y pruebas de funcionamiento. Este enfoque pretende garantizar que los comportamientos de los sistemas correspondan con los principios expresados.
Con la implementación de un estándar accesible y atención a la verificación, Acuilae Labs busca satisfacer las expectativas crecientes de ética en el desarrollo de tecnología, posicionando la ética como un pilar fundamental en la innovación de la inteligencia artificial.
