Presentado por F5
Los equipos de IA empresarial han pasado años resolviendo problemas informáticos, asegurando asignaciones de GPU, negociando la capacidad de la nube y evaluando el rendimiento de la capacitación. La suposición inherente a este trabajo es que seguirá el camino desde el almacenamiento hasta la computación. En la producción, esta suposición es cada vez más falsa. El tráfico del mundo real introduce picos de latencia, inestabilidad de la red y degradación de los nodos que los puntos de referencia controlados no logran capturar, lo que genera canalizaciones que funcionan bien en el laboratorio pero se estancan durante la implementación. Una respuesta cada vez mayor es la entrega de datos de IA, implementando un controlador de entrega de aplicaciones (ADC) o una plataforma de seguridad y entrega de aplicaciones (ADSP) frente al almacenamiento como un punto de control resistente y seguro.
«El aprovisionamiento resuelve la capacidad, pero no la entrega, y ahí es donde radica ahora la limitación», afirma Hunter Smit, director senior de marketing de productos de F5. «Las empresas compran suficientes GPU y suficiente almacenamiento y luego asumen que el camino entre ellas seguirá el ritmo, pero el tráfico de IA está saturado, es altamente concurrente y aleatorio en sus lecturas, de una manera que las redes de almacenamiento ordinarias nunca fueron diseñadas para absorber».
Los criterios de variación de producción no se muestran
La metodología de referencia estándar agrava el problema, dice Paul Pindell, arquitecto principal de soluciones para alianzas tecnológicas en F5.
«Las pruebas de referencia generalmente están diseñadas para producir los mejores resultados posibles de rendimiento o seguridad, no los más realistas», explica. «Con S3, la latencia es un factor conocido de degradación del rendimiento. Por lo tanto, las pruebas significativas deben introducir una latencia constante en la ruta. »
La mayoría de los entornos de referencia nunca hacen esto, lo que significa que las cifras de rendimiento en las que confían las empresas para tomar decisiones de infraestructura se derivan de condiciones que los sistemas de producción nunca replicarán. Para probar esta hipótesis, F5 y MinIO realizaron pruebas de rendimiento en condiciones de red degradadas.
«Lo que destaca es la rapidez con la que cae el rendimiento de S3 una vez que se introduce la latencia», afirma Pindell. «Incluso una latencia modesta reduce significativamente el peso y, a medida que la latencia aumenta en largas distancias, la degradación se vuelve grave».
Las pruebas también mostraron que la latencia era mucho más importante que la inquietud como factor en la pérdida de rendimiento, lo que revirtió lo que esperaba el equipo. La conclusión para los arquitectos empresariales es que las implementaciones de almacenamiento de objetos S3 no pueden diseñarse en torno a suposiciones de sala limpia; deben diseñarse para las condiciones degradadas de la red que realmente enfrentarán.
El costo de las rutas de datos frágiles
«En la infraestructura de IA, la gente naturalmente se centra en las GPU porque son el recurso más visible y costoso», afirma Tanu Mutreja, director senior de gestión de productos de F5. «Pero en entornos de producción, las GPU generan tanto valor como la ruta de datos que las impulsa».
Este camino pasa por capas de almacenamiento, redes, bases de datos, seguridad y orquestación, a menudo reunidas por múltiples proveedores. Los clientes no encuentran ninguna de estas costuras; experimentan el resultado de todo el sistema.
Cuando la ruta de datos se degrada, los efectos empeoran. La subutilización de la GPU es el síntoma más inmediato y visible, pero Mutreja señaló un conjunto más amplio de consecuencias: rendimiento de inferencia degradado, resultados de IA de mala calidad, mayores costos de producción debido a la replicación innecesaria de datos y una creciente complejidad operativa.
Suscríbete y recibe las historias más importantes del día.
Al suscribirte aceptas nuestros términos y condiciones y política de privacidad.
«A escala, la eficiencia de la ruta de datos se convierte en una palanca comercial estratégica en lugar de una optimización técnica», explica. “Cuando la ruta de los datos está bien diseñada, las GPU siguen siendo productivas, las aplicaciones de IA siguen siendo receptivas y confiables, las operaciones escalan de manera eficiente y las organizaciones maximizan el retorno de sus inversiones en IA.
Las cargas de trabajo de IA están estructuralmente más expuestas a estas interrupciones que las aplicaciones empresariales tradicionales. Las bases de datos, los sistemas ERP y los servicios web absorben retrasos transitorios en el almacenamiento mediante el almacenamiento en caché y el almacenamiento en búfer. Las cargas de trabajo de IA que se ejecutan en clústeres de GPU masivamente paralelos no reciben una protección equivalente. Como señaló Mutreja, incluso los picos de latencia menores o los cuellos de botella en el ancho de banda pueden afectar grandes clústeres de GPU, impactando simultáneamente la utilización, la eficiencia de la capacitación y la experiencia del cliente.
Trate el borde de almacenamiento como un punto de control
Durante décadas, el almacenamiento y la inteligencia funcionaron como preocupaciones secuenciales en la arquitectura empresarial: los datos primero se almacenaban y luego se analizaban posteriormente. Mutreja argumentó que este modelo ya no cumple con los requisitos de la IA.
«La ventaja competitiva está determinada no sólo por el volumen de datos, sino también por la relevancia, la trazabilidad, la seguridad y la entrega eficiente de los datos», explica. “En toda la industria, desde NVIDIA y AWS hasta los proveedores de almacenamiento empresarial, la tendencia es incorporar inteligencia directamente en la infraestructura de datos en lugar de apilarla encima. »
La integración de F5 con MinIO crea una instancia de este enfoque en la capa donde el almacenamiento y la computación realmente interactúan. Como parte de F5 ADSP, BIG-IP se ubica en la ruta de datos, monitoreando continuamente el estado de los nodos de almacenamiento distribuido de MinIO y dirigiendo solicitudes solo a aquellos que permanecen disponibles.
El impacto operativo de esta característica se vuelve evidente cuando los nodos se degradan, lo que se espera en los clústeres de almacenamiento distribuido. Sin enrutamiento inteligente, los clientes que llegan a un nodo defectuoso deben volver a intentarlo y pueden llegar a otro nodo degradado, lo que reduce el rendimiento general.
«F5 garantiza que el tráfico se dirija sólo a nodos en buen estado, o incluso a los menos ocupados, de modo que el tráfico del cliente S3 siempre se procese de la manera más eficiente posible», explica Pindell.
Gobernanza en entornos distribuidos
El desafío aumenta a escala, cuando los canales de IA abarcan múltiples ubicaciones, nubes o entornos de borde.
«Una vez que un proceso de IA cruza regiones y nubes, la cuestión deja de ser sobre el rendimiento y pasa a ser sobre el control», afirma Smit. «Se opera bajo diferentes reglas en cada jurisdicción, y la soberanía digital es ahora una restricción de diseño. Dónde se permite que vivan sus datos, quién puede tocarlos y los límites que no pueden cruzar ahora dan forma a la arquitectura antes de que alguien hable de velocidad».
Esta presión está impulsando una tendencia visible de empresas que repatrian cargas de trabajo de IA de la nube pública a infraestructuras que poseen y administran directamente. La arquitectura descrita por Smit resuelve este problema desacoplando las aplicaciones de cualquier ubicación de almacenamiento y colocando un punto de control unificado entre ellas que aplica una política coherente en todas ellas.
“La soberanía, la resiliencia y los costos dejan de ser compromisos a medida que gestionamos una región a la vez”, explica. «Se convierten en una capacidad que se gestiona como un sistema».
Ruta desde el almacenamiento hasta la computación como punto de control administrado
Para resolver estos problemas, los equipos de negocios deben dejar de tratar el camino desde el almacenamiento hasta la computación como una conexión directa y comenzar a tratarlo como un punto de control administrado, afirma Smit. La validación independiente de SecureIQLab de F5 BIG-IP en implementaciones de almacenamiento confirmó que el enfoque proporciona resiliencia sin sacrificar el rendimiento.
«Inserte un ADC proxy completo en el medio y la ruta se vuelve observable, programable y sensible a fallas, con enrutamiento basado en integridad, calidad de servicio y seguridad aplicada en línea», explica. «Este simple gesto transforma la entrega de datos de una suposición a una disciplina de ingeniería, permitiendo que las GPU sigan funcionando cuando las condiciones se deterioran».
Los artículos patrocinados son contenidos producidos por una empresa que paga por la publicación o tiene una relación comercial con VentureBeat y siempre están claramente marcados. Para más información, póngase en contacto ventas@venturebeat.com.
