Amazon ha dado a conocer su nuevo servicio totalmente gestionado, Amazon Bedrock, el cual proporciona una selección de modelos base de alto rendimiento de empresas líderes en inteligencia artificial como AI21 Labs, Anthropic, Cohere, Meta, Mistral AI, Stability AI y de la propia Amazon. Este servicio, accesible a través de una única API, se centra en facilitar la creación de aplicaciones de inteligencia artificial generativa con altos estándares de seguridad, privacidad y responsabilidad.
Los modelos base son especialmente relevantes en casos de uso comunes en inteligencia artificial generativa, tales como chatbots, asistentes virtuales y búsquedas conversacionales. Para optimizar la respuesta de estos modelos, una técnica conocida como Generación de Recuperación Incrementada (RAG) proporciona contextos específicos. Además, se aconseja ajustar finamente los modelos para alinearlos con la voz y el vocabulario propios de la industria o la marca.
Entre las funcionalidades destacadas de Amazon Bedrock se encuentra el soporte para la importación de modelos personalizados. Dicha característica permite a los usuarios incorporar modelos afinados previamente en otros entornos como Amazon SageMaker, Amazon EC2 y en ubicaciones locales, directamente a Amazon Bedrock. Actualmente en fase de vista previa, esta capacidad facilita la integración de modelos personalizados y finamente ajustados, mejorando la adaptabilidad y el rendimiento de las aplicaciones de inteligencia artificial generativa.
El servicio de Importación de Modelos Personalizados incluye varias características clave:
1. Importar modelos afinados para aprovechar las capacidades sin servidor totalmente gestionadas de Amazon Bedrock.
2. Soporte para arquitecturas de modelos como Llama 2, Llama 3, Flan y Mistral, con precisiones de FP32, FP16 y BF16 y futuras cuantizaciones.
3. Capacidad para ejecutar el proceso de importación con los pesos del modelo almacenados en Amazon S3.
4. Integración directa con modelos de Amazon SageMaker mediante la referencia de Amazon Resource Names (ARN).
5. Escalabilidad automática del modelo basada en el patrón de tráfico, optimizando los costos al reducir los recursos cuando no están en uso.
El proceso para importar y evaluar un modelo finamente ajustado incluye pasos detallados tales como afinar el modelo usando SageMaker, importarlo en Amazon Bedrock y evaluarlo utilizando la librería SageMaker FMEval. Por ejemplo, se describe la afinación de un modelo Mistral usando el conjunto de datos OpenOrca y su posterior evaluación, garantizando la precisión y eficiencia del modelo según las necesidades específicas de los usuarios.
Para ilustrar la solución, el artículo incluye diagramas del flujo de trabajo y ejemplos de código para cada uno de los pasos, desde la preparación del conjunto de datos hasta la evaluación del modelo importado. De esta manera, Amazon Bedrock no solo facilita la importación de modelos, sino también su implementación escalable y segura.
Con Amazon Bedrock, Amazon amplía su oferta de inteligencia artificial, brindando a los desarrolladores herramientas avanzadas para construir y escalar aplicaciones de AI generativa de manera eficiente.
