PowerSchool, reconocida por su liderazgo en software educativo en la nube, ha anunciado el lanzamiento de PowerBuddy™, un asistente de inteligencia artificial destinado a dar soporte a más de 60 millones de estudiantes en más de 90 países. Con su integración en diversas plataformas educativas, PowerBuddy facilita la interacción de los estudiantes con sus redes de apoyo. Sin embargo, la seguridad de los estudiantes, la mayoría menores de edad, ha sido prioridad, especialmente en lo que respecta al acceso a contenido inapropiado.
Para abordar este desafío, PowerSchool ha implementado un sistema de filtrado de contenido mediante la tecnología de Amazon SageMaker AI. Este sistema está diseñado para identificar y bloquear contenidos dañinos como el acoso escolar o el discurso de odio, sin interferir en los debates académicos importantes. Esto es crucial para permitir el estudio de temas sensibles sin censuras innecesarias.
La innovación de este sistema radica en su conjunto de características avanzadas, que abarca desde la preparación de datos hasta la arquitectura de inferencia. El equipo utilizó técnicas de adaptación de bajo rango (LoRA) para ajustar el modelo Llama 3.1 8B, asegurando su eficacia y precisión en contextos educativos. Las pruebas revelaron un 93% de precisión en la identificación de contenidos dañinos y un índice de falsos positivos menor al 3.75%, lo que representa un hito importante frente a las soluciones estándar.
La introducción de este filtrado personalizado no solo ha superado en eficiencia a las soluciones anteriores, sino que también ha incrementado la confianza en la inteligencia artificial dentro de las aulas. La retroalimentación continua y las pruebas A/B han sido cruciales para ajustar el sistema en tiempo real, manteniendo su efectividad.
Con la expansión de PowerBuddy a otros productos de PowerSchool, la compañía planea mayores adaptaciones del sistema de filtrado, asegurando un equilibrio entre la innovación educativa y la seguridad estudiantil. El objetivo es crear un entorno de aprendizaje seguro y accesible, que permita a los estudiantes explorar conocimientos sin riesgo alguno de exposición a contenidos inapropiados.
