Las universidades dedicadas a la investigación en inteligencia artificial (IA) y computación de alto rendimiento (HPC) se enfrentan a constantes desafíos debido a la complejidad de su infraestructura tecnológica. Los clústeres locales tradicionales de HPC presentan problemas considerables, como la extensa adquisición de GPU, límites de escalabilidad y mantenimiento complejo, lo que frena el progreso y la agilidad en tareas cruciales como el procesamiento de lenguaje natural y la visión por computadora.
En este contexto, Amazon SageMaker HyperPod se presenta como una innovadora solución para agilizar el desarrollo de modelos de IA. La herramienta facilita la rápida escalabilidad de los mismos, desde el entrenamiento hasta la inferencia, utilizando clústeres que pueden integrar cientos o incluso miles de aceleradores de IA, entre los que destacan las GPU NVIDIA H100 y A100.
Recientemente, una universidad incorporó esta tecnología para impulsar su investigación en IA. Aprovechando particiones dinámicas de SLURM, gestión precisa de recursos y un eficiente balanceo de carga, los investigadores ahora pueden acceder a herramientas avanzadas sin los obstáculos asociados a las infraestructuras convencionales.
La arquitectura de SageMaker HyperPod, completamente gestionada por AWS, está diseñada para respaldar operaciones de aprendizaje automático a gran escala, eliminando la carga administrativa mientras garantiza altos niveles de seguridad y rendimiento. Los usuarios pueden conectarse de forma segura, optimizando el tráfico y la interacción con el clúster.
Dos componentes principales soportan la infraestructura de almacenamiento: Amazon FSx para Lustre, que proporciona un sistema de archivos de alto rendimiento, y Amazon S3, diseñado para el almacenamiento seguro de datos y puntos de control. Esto asegura un acceso rápido a los datos necesarios para entrenar modelos.
La implementación de SageMaker HyperPod se desarrolló en varias fases, comenzando por la configuración de AWS y ajustando el clúster SLURM para satisfacer las demandas específicas del departamento de investigación. Con el uso de la configuración de recursos genéricos (GRES), se logró una eficiencia superior al permitir acceso simultáneo a las GPUs.
Para mantener un control sobre el uso y los costos, se etiquetó cada recurso con un identificador único, lo que facilita el monitoreo mensual de gastos a través de AWS Budgets y AWS Cost Explorer. Además, el balanceo de carga optimiza el acceso a los recursos para múltiples usuarios, fortaleciendo la eficiencia del sistema.
Finalmente, la integración con un sistema de Active Directory asegura un acceso seguro para los investigadores, manteniendo un control riguroso de las identidades y privilegios de usuario.
Con estas mejoras, SageMaker HyperPod está destinado a transformar la computación en investigación, permitiendo que las instituciones académicas aceleren su innovación en IA y se centren en sus objetivos científicos, liberándose de los problemas asociados a las infraestructuras tradicionales.
