El GitHub Security Lab ha revolucionado la gestión de alertas de seguridad con el uso de modelos de lenguaje de gran tamaño (LLMs), logrando mejorías notables en la clasificación de alertas usualmente tediosas y propensas a errores. Este avance utiliza un nuevo marco de trabajo de inteligencia artificial llamado GitHub Security Lab Taskflow Agent, que ha mostrado gran eficacia en la identificación de patrones que los métodos convencionales suelen pasar por alto.
Los investigadores de este laboratorio han estado explorando el uso de taskflows. Estos son archivos YAML que detallan una serie de tareas, permitiendo que los LLMs participen en la clasificación de alertas de escaneo de código. Desde agosto, han conseguido clasificar una gran cantidad de alertas, descubriendo alrededor de 30 vulnerabilidades reales, muchas de las cuales ya han sido corregidas. Durante este proceso, los LLMs realizaron tareas como la búsqueda de archivos y la recolección de datos, sin emplear herramientas tradicionales de análisis de código estático o dinámico, más allá de las alertas generadas con CodeQL.
El marco de trabajo del GitHub Security Lab permite la creación de flujos de trabajo automatizados mediante inteligencia artificial, centrándose en áreas donde la intervención humana es más eficiente para detectar problemas. Las alertas son clasificadas según criterios específicos, facilitando una identificación más precisa de los falsos positivos. Las tareas se estructuran en diversas etapas que incluyen la recopilación y auditoría de datos, culminando en un informe que resume las conclusiones.
Entre los resultados se destaca la identificación clara de falsos positivos en alertas generales provenientes de GitHub Actions y otros contextos, donde las medidas de seguridad en los flujos de trabajo limitan los riesgos. Este sistema no solo mejora la precisión en la detección de vulnerabilidades, sino que también se beneficia del feedback obtenido durante las auditorías, optimizando futuros análisis.
El laboratorio ha puesto a disposición el código de los taskflows para que otros investigadores puedan desarrollar y utilizar estos flujos de trabajo, fomentando una colaboración más efectiva en la identificación y mitigación de vulnerabilidades en proyectos de código abierto.
