En 2023, la inteligencia artificial vivió un cambio significativo con la llegada de ChatGPT 3.5, generando una adopción masiva en múltiples sectores. Según un informe de McKinsey, el 72% de las organizaciones ahora emplea alguna forma de IA en sus operaciones. Este desarrollo ha desatado un impacto económico masivo, estimado en 4.4 billones de dólares a nivel global. Los sectores más beneficiados incluyen la banca, con un impacto proyectado de 340 mil millones de dólares, y el comercio minorista, con 660 mil millones.
No obstante, esta rápida integración también ha traído consigo importantes riesgos. Muchas empresas han apresurado la implementación sin la preparación necesaria, como lo demuestra el caso de Air Canada, donde un chatbot proporcionó información errónea sobre políticas de reembolso, dañando su reputación. Este tipo de problemas, como las «alucinaciones» en los modelos, respuestas sesgadas y riesgos de seguridad, advierten que no son simples anomalías, sino fallas que pueden erosionar la confianza del consumidor rápidamente.
La confianza en los sistemas de IA es crucial para su éxito. Si estos sistemas no son vistos como confiables, su aceptación se dificultará. Para construir esa confianza, son esenciales la seguridad de los datos, la verificación de respuestas y la protección contra contenidos nocivos. Empresas que adoptan políticas de «IA responsable» no solo operan éticamente, sino que también pueden obtener mejores retornos de inversión.
La observabilidad en la IA emerge como un pilar fundamental para establecer esta confianza. Permite monitorizar y comprender cómo funcionan estos sistemas, lo que es esencial para la transparencia y la seguridad. Dan Brock, vicepresidente de éxito del cliente en Fiddler AI, subraya que la adopción de IA debe ir de la mano con un compromiso hacia estos principios, garantizando así una integración efectiva y beneficiosa en todas las áreas.
