Durante el evento re:Invent 2024, celebrado recientemente, se anunció una colaboración estratégica que promete una importante aceleración en las cargas de trabajo de inferencia de Inteligencia Artificial (IA). Esta alianza une las potentes capacidades de aceleración computacional de NVIDIA con el amplio ecosistema de software de Amazon SageMaker, consolidando aún más la cooperación entre ambas compañías. El núcleo de esta colaboración se centra en optimizar el soporte para instancias de GPU enfocadas en la inferencia y mejorar la integración con las tecnologías innovadoras de NVIDIA.
En este marco, se presentaron tres avances significativos que amplían y enriquecen las capacidades de inferencia de IA:
Microservicios NVIDIA NIM en AWS Marketplace: Ahora disponibles para despliegues de SageMaker Inference, estos servicios facilitan a los clientes el acceso a modelos de IA generativa de última generación, mejorando así la capacidad y eficiencia de sus soluciones de inteligencia artificial.
Integración del modelo NVIDIA Nemotron-4 en Amazon SageMaker JumpStart: Este paso incrementa notablemente el repertorio de modelos preentrenados de alta calidad disponibles para los usuarios. El modelo Nemotron-4 es conocido por su habilidad multilingüe y sobresaliente rendimiento en pruebas de razonamiento.
- Instancias P5e y G6e optimizadas para la inferencia: Estas nuevas instancias, ahora disponibles en Amazon SageMaker, aprovechan las tarjetas gráficas NVIDIA H200 Tensor Core y L40S, proporcionando un rendimiento superior para las cargas de trabajo de inferencia de IA.
Durante el evento, se enfatizó cómo estos desarrollos permiten a las organizaciones implementar modelos de IA generativa con rapidez y escalar sus aplicaciones de manera más eficiente. Los microservicios NVIDIA NIM en particular, juegan un papel crucial al permitir un despliegue más veloz de soluciones avanzadas de IA. Asimismo, la integración completa del modelo NVIDIA Nemotron-4 dentro de SageMaker JumpStart facilita una implementación más accesible y rápida para una amplia variedad de clientes.
Desde el punto de vista del hardware, las nuevas instancias, equipadas con las potentes GPUs de NVIDIA, ofrecen mejoras notables en comparación con las generaciones anteriores. Esto permite tanto el despliegue como el entrenamiento de modelos de aprendizaje automático que demandan alta capacidad de procesamiento.
Este anuncio representa un avance significativo en la accesibilidad y eficiencia para aquellas empresas que buscan adoptar capacidades avanzadas de inferencia de IA. Las mejoras introducidas facilitarán a las organizaciones la innovación en sus procesos y la mejora en la toma de decisiones, respaldadas por una infraestructura optimizada y flexible que es capaz de manejar cargas de trabajo complejas y casos de uso multiindustriales.
