Enfabrica Corporation ha sorprendido al mundo de la tecnología con el lanzamiento de su innovador sistema de memoria elástica para inteligencia artificial, Emfasys, respaldado por NVIDIA. Este sistema, el primero de su tipo basado en Ethernet, ofrece una solución inédita para aliviar la presión sobre la memoria HBM y optimizar los costes de inferencia en modelos generativos.
Emfasys promete una revolución en la eficiencia de cargas de trabajo de inferencia a gran escala. La arquitectura permite ampliar la memoria de servidores GPU con hasta 18 TB de DRAM DDR5 conectada por red, utilizando conexiones estándar de Ethernet de 400 y 800 GbE. Esto podría reducir significativamente el coste por token generado, especialmente en escenarios complejos donde los modelos de lenguaje son más retentivos.
«Emfasys es nuestra respuesta al desafío creciente en el acceso a memoria necesario para la inferencia de IA», comentó Rochan Sankar, CEO de Enfabrica.
Basado en el chip ACF-S SuperNIC, que garantiza un rendimiento de 3,2 Tbps, Emfasys interconecta servidores GPU con memoria DDR5 mediante CXL.mem. Este enfoque permite transferencias de datos sin intervención de la CPU y con latencias mínimas, superando a los sistemas basados en almacenamiento flash.
La solución está diseñada para facilitar su implementación en infraestructuras existentes, optimizando el uso de recursos de computación y reduciendo el desperdicio de memoria HBM.
Ante el auge de los modelos generativos, Enfabrica posiciona Emfasys como una solución crítica para la infraestructura de IA en la nube, donde la eficiencia y el coste total son prioritarios. Actualmente, varios clientes están en fase de prueba de la tecnología, aunque la disponibilidad general aún no ha sido anunciada.
El respaldo financiero de Enfabrica ha sido sólido, con una ronda de inversión Serie B de 125 millones de dólares, apoyada por Sutter Hill Ventures y NVIDIA. La empresa también se ha unido al Ultra Ethernet Consortium y colabora con el estándar Ultra Accelerator Link. Con activos en desarrollo continuo, como un nuevo centro de I+D en India, Enfabrica busca liderar el campo de la infraestructura de memoria distribuida para IA generativa.
Con Emfasys, la startup espera redefinir cómo se gestiona la memoria en la próxima generación de aplicaciones cognitivas, marcando una clara diferencia en términos de viabilidad económica y de recursos.
