Mistral AI ha introducido al mercado su nuevo modelo de lenguaje, Mistral-Small-3.2-24B-Instruct-2506, diseñado para perfeccionar la precisión en el seguimiento de instrucciones y reducir significativamente errores repetitivos. Este avance está disponible ahora para los clientes a través de plataformas como Amazon SageMaker JumpStart y Amazon Bedrock Marketplace.
El nuevo modelo, que conserva la arquitectura de 24 mil millones de parámetros de su predecesor, presenta mejoras sustanciales. Un análisis comparativo reveló que su precisión en el seguimiento de instrucciones ha aumentado al 84.78%, en comparación con el 82.75% de la versión anterior. Además, las respuestas repetitivas se han reducido a casi la mitad, mostrando una notable disminución de errores en las generaciones infinitas, del 2.11% al 1.29%.
Entre las mejoras integradas se incluye un sistema de llamadas a funciones más robusto para la interacción con APIs estructuradas, así como la capacidad de procesar texto e imágenes. Esto último facilita tareas complejas como la comprensión de documentos y la generación de contenido visual.
El modelo está diseñado para aplicaciones empresariales críticas en AWS, donde la precisión es esencial. Gracias a su capacidad para manejar un contexto de hasta 128,000 tokens, Mistral-Small-3.2 puede gestionar documentos extensos y mantener la coherencia en diálogos prolongados.
SageMaker JumpStart ofrece un entorno gestionado para acceder a estos modelos de última generación, aplicándolos en ámbitos como la redacción de contenido, generación de código y recuperación de información. Los usuarios pueden desplegar los modelos de Mistral mediante Amazon SageMaker Studio o el SDK de Python.
Al acceder al modelo desde el Amazon Bedrock Marketplace, los usuarios simplemente deben escoger Mistral-Small-3.2-24B-Instruct-2506. Luego, es posible configurar el nombre de endpoint y seleccionar el tipo de instancia, siendo recomendable optar por instancias con GPU para maximizar el rendimiento.
Además de su implementación destacada, el modelo ha superado pruebas en tareas que requieren análisis complejos, como el estudio de datos económicos, ampliando así su utilidad en diversas aplicaciones.
Con este lanzamiento, Mistral AI refuerza su compromiso de ofrecer herramientas avanzadas para desarrolladores y empresas que buscan aprovechar todo el potencial de la inteligencia artificial en sus operaciones.