Inicio Tecnología Implementación de Modelos Qwen con Importación Personalizada en Amazon Bedrock

Implementación de Modelos Qwen con Importación Personalizada en Amazon Bedrock

0
Elena Digital López

Amazon ha revelado nuevas capacidades para su servicio Amazon Bedrock, anunciando que ahora permite la importación de modelos personalizados de la familia Qwen. Esta nueva funcionalidad incluye variantes como Qwen2, Qwen2_VL y Qwen2.5_VL, lo que potencia considerablemente las capacidades de inteligencia artificial gestionadas en AWS.

La integración de los modelos Qwen 2 y 2.5 marca un avance significativo, ofreciendo desde modelos de lenguaje general de hasta 72 mil millones de parámetros, hasta modelos especializados como Qwen 2.5-Coder, diseñado para la generación y finalización de código, y Qwen 2.5-VL, que procesa imágenes y vídeos. Estos modelos pueden ser importados con pesos personalizados y desplegados en un entorno sin servidor, eliminando la necesidad de manejar infraestructura compleja.

Amazon Bedrock permite integrar estos modelos personalizados mediante una API unificada, lo que facilita su uso instantáneo y acelera el desarrollo de aplicaciones de inteligencia artificial generativa. La función ya está disponible en regiones como Estados Unidos y Europa.

Uno de los casos de uso destacados es el de Qwen 2.5-Coder, que actúa como asistente de programación. Este modelo soporta más de 90 lenguajes de programación y destaca en generación y depuración de código, igualando a otros modelos propietarios. Por otro lado, Qwen 2.5-VL combina comprensión visual y verbal, permitiendo al modelo describir objetos en imágenes y analizar gráficos.

Para aquellos interesados en utilizar los modelos Qwen con Amazon Bedrock, es necesario contar con una cuenta activa de AWS, un bucket de Amazon S3 para almacenar los archivos y permisos para crear trabajos de importación de modelos.

En términos de costos, aunque la importación no tiene cargo, las tarifas de inferencia se miden en incrementos de cinco minutos, basándose en factores como el tamaño del modelo y su tiempo de actividad. Después de completar experimentos, se recomienda eliminar los modelos importados y los archivos del bucket de S3 para evitar gastos extra.

Esta integración de los modelos Qwen ofrece a las empresas una plataforma potente y flexible para desarrollar inteligencia artificial, permitiéndoles concentrarse en sus aplicaciones sin preocuparse por manejar infraestructura.

Salir de la versión móvil