AMD ha dado un paso más en su compromiso con la innovación tecnológica al anunciar el lanzamiento de ROCm 6.3, su plataforma de software de código abierto más reciente. Esta actualización está enfocada en potenciar las cargas de trabajo relacionadas con la inteligencia artificial (IA) y la computación de alto rendimiento (HPC). Las mejoras introducidas prometen mejorar significativamente el rendimiento, así como la eficiencia y escalabilidad, ofreciendo un recurso vital para desarrolladores y empresas que operan en sectores de alta competitividad.
Una de las novedades más destacadas de ROCm 6.3 es la incorporación de SGLang, un entorno específicamente diseñado para optimizar la inferencia de modelos de IA generativa que incluyen grandes modelos de lenguaje (LLM) y modelos visual-lingüísticos (VLM). Los resultados de pruebas internas indican que SGLang puede aumentar el rendimiento de la inferencia de LLM hasta seis veces, lo que lo convierte en una herramienta esencial para organizaciones que utilizan asistentes interactivos y servicios en la nube.
La plataforma también incluye mejoras significativas en el rendimiento de modelos transformadores a través de FlashAttention-2, optimizado específicamente para ROCm 6.3. Este avance promete triplicar la velocidad de la inferencia y entrenamiento de dichos modelos en comparación con versiones anteriores, facilitando una reducción en el tiempo necesario para llevar soluciones de IA al mercado.
En el ámbito de la HPC, AMD ha introducido un nuevo compilador Fortran, destinado a facilitar la adaptación de aplicaciones heredadas a las GPUs modernas. Esta innovación busca ofrecer compatibilidad con el código existente sin requerir cambios significativos, lo cual es especialmente beneficioso para industrias como la farmacéutica, la aeronáutica y la modelización climática.
Otra mejora notable es la funcionalidad FFT multinodo en rocFFT, la cual ofrece cálculos distribuidos de alto rendimiento en grandes conjuntos de datos. Tal capacidad es de particular interés para los sectores de petróleo, gas y modelización climática, donde la eficiencia en el procesamiento de datos es crucial.
Las mejoras no se detienen allí; ROCm 6.3 presenta bibliotecas mejoradas para la visión por ordenador, especialmente en AV1 y rocJPEG, permitiendo facilitar el manejo de cargas de trabajo de análisis de vídeo y aumento de conjuntos de datos. Estas capacidades son fundamentales para las industrias de medios de comunicación, entretenimiento y sistemas autónomos.
Con esta nueva actualización, AMD refuerza su posición en el ámbito de la tecnología de código abierto, proporcionando a los desarrolladores herramientas que maximizan el rendimiento y simplifican la implementación de aplicaciones. ROCm 6.3 demuestra su compromiso no solo con el avance tecnológico sino también con la consolidación de su plataforma como una de las principales opciones para IA generativa, visualización avanzada y computación distribuida.
Disponibles a través de la plataforma oficial de AMD ROCm, los desarrolladores pueden acceder a ROCm 6.3 y explorar su extensa documentación. Además, se recomienda consultar las guías detalladas y las bibliotecas actualizadas para integrar eficientemente estas herramientas en sus flujos de trabajo existentes.
AMD mantiene su liderazgo en innovación en los campos de IA y HPC, brindando a las empresas las herramientas necesarias para enfrentar los desafíos actuales y explorar nuevas oportunidades en el futuro. Con ROCm 6.3, la compañía establece un nuevo estándar en rendimiento y escalabilidad en el sector de la computación avanzada.
