F5 Networks ha anunciado la expansión de su solución BIG-IP Next for Kubernetes, integrada ahora con las nuevas NVIDIA BlueField-4 DPU. Este desarrollo está dirigido a las fábricas de IA a gigascala, prometiendo un incremento significativo en el rendimiento de la red y la seguridad. La colaboración entre ambas compañías asegura una capacidad de red multi-tenant de hasta 800 Gb/s, con mejoras en la aceleración de cargas LLM y seguridad zero-trust.
La integración de F5 y BlueField-4 se centra en trasladar funciones de red y seguridad al DPU, liberando así a las GPU de tareas que no están directamente relacionadas con la inteligencia artificial, y logrando una reducción en las latencias. Este avance es crucial en entornos donde cada microsegundo cuenta, especialmente en contextos con agentes autónomos y tráfico multi-modelo.
La propuesta promete una serie de beneficios clave:
-
Rendimiento Mejorado: Al descargar el data path y los controles hacia el DPU, se logra un aumento del 30% en la capacidad de generación de tokens. Esto asegura un aislamiento eficaz entre inquilinos a través de la velocidad de red mencionada.
-
Optimización de la Inferencia LLM: Gracias a la integración con NVIDIA Dynamo y KV Cache Manager, se reduce la latencia y se aprovecha mejor la GPU, permitiendo un servicio desagregado que se adapta a cambios en los prompts y contextos.
-
Enrutado Inteligente Multimodelo: Mediante NVIDIA NIM, el control plane de F5 dirige el tráfico entre diferentes modelos para optimizar el TTFT, coste o calidad.
-
Gobernanza Granular de Tokens: Se ofrece visibilidad y métricas esenciales para cumplimiento, contabilidad y gestión de riesgos.
-
Seguridad Mejorada: Con el uso de NVIDIA DOCA Platform Framework, se garantiza un entorno seguro en redes de IA distribuidas con segmentación de inquilinos.
-
Programabilidad: Las F5 iRules pueden aplicarse a flujos de IA para crear políticas de seguridad personalizadas.
Este avance es significativo para las modernas cargas de IA, permitiendo más eficiencia, seguridad y gobernanza sin sacrificar el rendimiento. En particular, las capacidades de balanceo y micro-segmentación ofrecen una gestión más eficaz en entornos complejos y regulados.
A medida que las organizaciones buscan maximizar el uso de sus infraestructuras de IA, la desagregación del serving del cálculo en GPU y el traslado de la red y seguridad al DPU permiten escalar con eficiencia mientras se mantienen altos estándares de calidad de servicio. Los detalles subrayan que el éxito de la integración dependerá del diseño adecuado y de un ajuste preciso de las condiciones operativas.
Este anuncio representa un paso importante hacia el futuro de las fábricas de IA, poniendo en relieve el potencial transformador de combinar la tecnología de F5 y NVIDIA para mejorar el rendimiento y la seguridad en entornos a gran escala.
