La irrupción de los nuevos modelos de razonamiento de NVIDIA, Llama 3.3 Nemotron Super 49B V1 y Llama 3.1 Nemotron Nano 8B V1, marca una nueva era en la inteligencia artificial generativa. Estos modelos, ahora disponibles en Amazon Bedrock Marketplace y en Amazon SageMaker JumpStart, prometen revolucionar la forma en que las organizaciones desarrollan e implementan soluciones de IA en la plataforma AWS.
Mediante la integración de los micromservicios de inferencia de NVIDIA NIM, estos modelos facilitan el despliegue de inteligencia artificial generativa con servicios gestionados por AWS. Esta infraestructura permite que los desarrolladores puedan integrar aplicaciones de manera sencilla, utilizando un solo comando o unas pocas líneas de código.
El Llama 3.3 Nemotron Super 49B V1, optimizado para eficiencia y reducción de huella de memoria, se destaca por su capacidad de manejar contextos de hasta 128,000 tokens. Esto lo hace ideal para tareas complejas como la generación de datos aumentada y la llamada a herramientas inteligentes. En contraposición, el Llama 3.1 Nemotron Nano 8B V1 ofrece características similares en un formato más compacto, adaptable para uso local.
Amazon Bedrock Marketplace ofrece una plataforma segura y unificada, donde las organizaciones pueden explorar y seleccionar los modelos de IA que mejor se adapten a sus necesidades específicas. Esta accesibilidad permite su aplicación en una amplia gama de usos, desde la redacción automatizada de contenidos hasta la clasificación avanzada de información.
Para implementar estos modelos, los usuarios simplemente deben suscribirse y seguir instrucciones simples para desplegarlos, ya sea directamente a través de la consola de Bedrock o mediante el SDK de SageMaker, facilitando así la realización de inferencias.
En resumen, la incorporación de los modelos Llama 3.3 y Llama 3.1 representa un avance significativo para las empresas que buscan implementar soluciones avanzadas de inteligencia artificial. Gracias a la estructura escalable de AWS, las empresas pueden transformar fácilmente sus aplicaciones con estas herramientas de última generación.
