En un movimiento significativo hacia la democratización de la inteligencia artificial, AMD ha presentado su procesador Ryzen AI Max+ 395, que permite la ejecución local del modelo de lenguaje GPT-OSS 120B de OpenAI directamente en portátiles de consumo. Este avance representa un hito en la computación de IA, prometiendo mayor accesibilidad y privacidad para el usuario final.
OpenAI continúa su misión de apertura y accesibilidad en la IA con los modelos GPT-OSS 20B y GPT-OSS 120B, que cuentan con pesos abiertos y están diseñados para funcionar localmente, eliminando la necesidad de conexión a la nube. AMD ha respondido a esta innovación ofreciendo soporte nativo para estos modelos desde el primer día en sus procesadores Ryzen AI Max+ y tarjetas gráficas Radeon RX.
El modelo GPT-OSS 120B, con 116.800 millones de parámetros, promete capacidades comparables a las de los centros de datos, pero ahora accesibles para dispositivos personales. Este procesador se integra en portátiles como el ASUS ROG Flow Z13 y dispone de 128 GB de memoria total, incluyendo 96 GB dedicados a memoria gráfica. Pruebas internas de AMD sugieren que puede generar hasta 30 tokens por segundo, brindando a desarrolladores la oportunidad de trabajar con modelos de gran escala sin necesidad de infraestructuras remotas.
El soporte adicional para el Model Context Protocol (MCP) permite mantener contextos conversacionales extensos, una característica que hasta ahora estaba reservada a soluciones de nube de gran capacidad. Para configuraciones de escritorio, las tarjetas gráficas Radeon RX ofrecen un rendimiento robusto con el modelo GPT-OSS 20B, reduciendo el tiempo de respuesta y mejorando la experiencia en aplicaciones interactivas.
AMD ha proporcionado una guía detallada para que los usuarios descarguen y ejecuten estos modelos mediante el entorno LM Studio. Los requisitos incluyen la instalación de drivers específicos y configuraciones de memoria gráfica a través del panel de AMD Software, facilitando la ejecución local de modelos avanzados.
Este avance no solo reduce significativamente los costos y dependencias asociados a la infraestructura de centros de datos, sino que también impulsa a AMD como líder en el procesamiento local de IA, compitiendo con gigantes del sector y ofreciendo una solución sofisticada y accesible para usuarios y desarrolladores por igual.
