Clockwork.io ha presentado TorchPass Workload Fault Tolerance, una solución innovadora para abordar los costosos problemas de fallos de hardware en la infraestructura de inteligencia artificial (IA). Esta tecnología promete transformar la gestión de fallos en el entrenamiento de IA a gran escala, evitando los reinicios catastróficos que afectan a este sector.
En un contexto de inversiones multimillonarias en chips de IA, los costos por fallos siguen siendo un desafío. Según Suresh Vasudevan, CEO de Clockwork.io, TorchPass redefine las reglas permitiendo que las cargas de trabajo de IA continúen sin interrupciones, incluso frente a fallos de GPU o redes, eliminando la necesidad de reiniciar desde puntos de verificación.
Integrado en la plataforma FleetIQ, TorchPass emplea la migración en vivo de GPU para mantener activo el entrenamiento de IA. Este sistema promete ahorros importantes, recuperando hasta 6 millones de dólares anuales en capacidad de cómputo en despliegues típicos de 2.048 GPU.
Dylan Patel, CEO de SemiAnalysis, destaca que TorchPass facilita una conmutación por error que mejora notablemente la eficiencia y economía en el uso de GPU, especialmente en proyectos de gran envergadura donde los fallos pueden ser frecuentes.
Las investigaciones indican que los sistemas de IA distribuidos son propensos a fallos en clústeres grandes, por ejemplo, en uno de 1.024 GPU, donde el tiempo medio hasta el fallo es de solo 7,9 horas. TorchPass se posiciona como una herramienta esencial para empresas que buscan fiabilidad en sus operaciones de IA.
José Power, CTO de Nscale, subraya la importancia de manejar fallos sin detener los entrenamientos, lo cual es crucial para ofrecer una infraestructura de cómputo eficiente y económicamente viable.
Clockwork.io, con este lanzamiento, no solo busca optimizar la eficiencia operativa, sino también impulsar la próxima generación de infraestructura de IA. Al transformar la fiabilidad en una capacidad definida por software, TorchPass permite el despliegue de sistemas más avanzados y densos, mitigando los riesgos de fallos significativos.
El equipo de Clockwork.io estará presente en el evento NVIDIA GTC 2026 del 16 al 19 de marzo, en el stand n.º 205, para ofrecer más detalles sobre esta innovadora tecnología.
