PowerSchool, el destacado proveedor de software en la nube para la educación K-12, ha dado un paso significativo hacia la protección de sus usuarios más jóvenes con el lanzamiento de PowerBuddy™, un asistente de inteligencia artificial. Diseñado para dar soporte a más de 60 millones de estudiantes en más de 90 países, PowerBuddy se integra en múltiples plataformas educativas, facilitando la interacción de los estudiantes con sus redes de apoyo. Sin embargo, uno de los mayores retos ha sido establecer un sistema de filtrado de contenido que proteja a los estudiantes, muchos de ellos menores de edad, en los entornos educativos.
Para abordar este desafío, PowerSchool ha implementado una solución avanzada de filtrado de contenido utilizando Amazon SageMaker AI. Este sistema no solo identifica y bloquea contenido nocivo, como el acoso escolar o el discurso de odio, sino que también garantiza que no se interfiera en discusiones académicas legítimas. Esto es crucial para asegurar que materiales educativos, como exámenes históricos, no sean erróneamente clasificados como violentos.
La solución está equipada con características avanzadas que incluyen desde la preparación de datos hasta la arquitectura de inferencia. Mediante las técnicas de adaptación de bajo rango (LoRA), el equipo ajustó el modelo Llama 3.1 8B para asegurar su precisión en este ámbito específico. Las pruebas iniciales han mostrado una precisión del 93% en la identificación de contenido dañino, junto con una tasa de falsos positivos inferior al 3.75%, lo que supone un avance considerable respecto a las soluciones genéricas.
La implementación de este sistema ha demostrado ser más efectiva que las alternativas existentes y ha incrementado la confianza en las herramientas de inteligencia artificial en las aulas educativas. Gracias a la recolección continua de retroalimentación y pruebas A/B, el sistema se ajusta en tiempo real para mantener y mejorar la eficacia del filtrado.
Con la integración de PowerBuddy en otros productos de PowerSchool, la empresa planea futuras adaptaciones del modelo de filtrado. El objetivo es encontrar un equilibrio entre la innovación educativa y la seguridad de los estudiantes, creando un entorno de aprendizaje seguro y accesible que proteja a los estudiantes de contenidos perjudiciales mientras fomenta un aprendizaje sin riesgos.
