Hoy se ha anunciado una integración innovadora que promete transformar el panorama del aprendizaje automático empresarial. Snowflake Arctic Instruct, un modelo de lenguaje de clase empresarial, ya está disponible para su despliegue y ejecución de inferencias a través de Amazon SageMaker JumpStart. Este desarrollo facilita a las empresas la implementación de soluciones avanzadas de machine learning de manera más eficiente y rentable.
Snowflake Arctic es una familia de grandes modelos de lenguaje (LLMs) creados por Snowflake, renombrados por sus habilidades en consultas SQL, codificación y seguimiento preciso de instrucciones. Estos modelos están diseñados con una arquitectura híbrida que combina transformadores densos de 10 mil millones de parámetros con una red de expertos residual (MoE) de 480 mil millones de parámetros, distribuidos en 128 expertos. Esta configuración permite un uso más eficiente de los recursos durante el entrenamiento y la inferencia, maximizando la capacidad de inteligencia empresarial sin aumentar significativamente los costos.
El proceso de entrenamiento de Snowflake Arctic se ha llevado a cabo en tres fases distintas con más de 3.5 billones de tokens, enfocándose en datos empresariales en las últimas dos fases. Esto asegura que los modelos no solo sean económicos, sino también altamente competentes en tareas empresariales, como la manipulación de datos en SQL y la generación de código.
La integración con Amazon SageMaker JumpStart permite a los desarrolladores desplegar y gestionar modelos de machine learning de forma rápida y sencilla. SageMaker JumpStart ofrece una amplia selección de modelos preentrenados y soluciones de ML, facilitando un inicio ágil en el desarrollo de aplicaciones de machine learning. Además, la implementación en Amazon SageMaker Studio se hace sencilla, ya que el modelo Arctic Instruct está disponible en la región us-east-2, con planes de expansión a otras regiones en el futuro.
Los desarrolladores pueden acceder a los modelos a través de la interfaz de usuario de SageMaker Studio o programáticamente usando el SDK de Python de SageMaker, lo que permite una mayor personalización y control en la operación de machine learning. Snowflake Arctic se puede utilizar en múltiples aplicaciones empresariales, tales como resúmenes de texto largos, generación de código, razonamiento matemático, y generación de consultas SQL, optimizando y automatizando tareas complejas para las empresas.
Es importante destacar la necesidad de limpiar los recursos después de utilizar el modelo para evitar costos adicionales. La eliminación de los modelos y puntos de conexión se puede realizar directamente desde la consola de SageMaker Studio.
En resumen, Snowflake Arctic Instruct en SageMaker JumpStart no solo proporciona una solución poderosa y eficiente para empresas, sino que también reduce los costos de entrenamiento y despliegue de modelos, permitiendo personalizaciones específicas para cada caso de uso empresarial. Esta integración es un paso significativo hacia la democratización del machine learning avanzado en el ámbito empresarial.
