La llegada de la IA ha cambiado mucho nuestro estilo de vida. Podemos hacer todo con facilidad y disponer de formas cada vez más eficientes. Para que las redes puedan aprovechar al máximo el potencial de la IA, deben combinar una conectividad de alto rendimiento con una ausencia total de pérdida de paquetes.
Martin Hull, vicepresidente de gestión de productos para Cloud Titans y plataformas en Arista Networks, afirmó que la preocupación radica en que las interconexiones de red tradicionales actuales no pueden proporcionar la escala y el ancho de banda necesarios para satisfacer las solicitudes de IA. Históricamente, las únicas opciones para conectar los núcleos de procesador y la memoria han sido las interconexiones propietarias, como InfiniBand, PCI Express y otros protocolos destinados a conectar clústeres de cálculo y descargar su carga, pero, en la mayoría de los casos, no son adecuadas para la inteligencia artificial ni para los requisitos de sus cargas de trabajo.
Columna vertebral con inteligencia artificial de Arista
Para hacer frente a estos problemas, Arista está desarrollando una tecnología denominada «AI Spine», que requiere conmutadores de centro de datos con búferes de paquetes de gran capacidad y un software de red que ofrezca supervisión en tiempo real para ayudar a gestionar los búferes y controlar el tráfico de forma eficiente.
“Lo que estamos empezando a ver es un ola de inteligencia artificial, ”las aplicaciones de lenguaje natural basadas en el aprendizaje automático que implican enormes cantidades de datos distribuidos entre cientos o miles de procesadores (CPU, GPU), todos los cuales se encargan de la tarea de cálculo: dividirla en partes, procesar cada uno su parte y, a continuación, devolverla», explicó Hull.
“Si tu red se inclina por una caída del tráfico, eso significa que la carga de trabajo de inteligencia artificial se retrasa al iniciarse, ya que hay que retransmitirla. Si, durante el procesamiento de esas cargas de trabajo de inteligencia artificial, el tráfico vuelve a ir y venir, eso ralentiza la inteligencia artificial. La velocidad a la que funcionan se ve afectada y, de hecho, pueden llegar a fallar”.”
Arquitectura de la columna vertebral basada en la inteligencia artificial
De Arista inteligencia artificial La estructura central se basa en su serie 7800R3 de conmutadores para centros de datos, que admiten una capacidad de conmutación de 460 Tbps y cientos de interfaces de 40 Gbps, 50 Gbps, 100 Gbps o 400 Gbps, así como búferes de 384 GB de profundidad en la gama alta.
“El búfer de profundidad es fundamental para mantener el flujo y no perder nada”, afirmó Hull. “A algunas personas les preocupa la latencia en los búferes grandes, pero nuestro análisis no indica que eso ocurra en este caso”.”
El sistema «Spine» de inteligencia artificial estará controlado por el software de red central de Arista, el Extensible Operating System (EOS), que admite redes basadas en Ethernet de gran ancho de banda, sin pérdidas y de baja latencia, basadas en Ethernet que pueden interconectar miles de GPU a velocidades de 100 Gbps, 400 Gbps y 100 Gbps. Según el libro blanco del sistema «Spine» de inteligencia artificial, 800 Gbps y un esquema de asignación de búfer.
Para facilitar esto, los conmutadores y los paquetes EOS crean una estructura que desglosa los paquetes y los reformatea en unidades de tamaño uniforme, “distribuyéndolos” de manera homogénea por toda la estructura, según Arista. El objetivo es garantizar un acceso equitativo a todas las rutas disponibles dentro de la estructura y que no se pierda ningún paquete.
“La arquitectura basada en celdas no tiene en cuenta las velocidades de conexión del panel frontal, y combinar velocidades de 100G, 200G y 400G no supone ningún problema”, escribió Arista. “Además, la estructura celular la hace inmune al problema de la ‘colisión de flujos’ de las estructuras Ethernet. Se utiliza un mecanismo de programación distribuida dentro del conmutador para garantizar la equidad en el tráfico que compite por el acceso a los puertos de salida congestionados”.”
Dado que cada flujo utiliza cualquier ruta disponible para llegar a su destino, la estructura resulta muy adecuada para gestionar los “flujos gigantes” de alto tráfico, habituales en las aplicaciones de IA y aprendizaje automático, por lo que “no hay puntos de congestión internos en la red”, señala Arista.
Modelo de columna vertebral basado en inteligencia artificial
Para explicar cómo funciona la «columna vertebral» de la inteligencia artificial, el informe técnico de Arista ofrece dos ejemplos.
En primer lugar, el diseño ’leaf and spine» específico del Arista 7800 permite conectarse a cientos de racks de servidores, y las funciones inteligentes de equilibrio de carga de EOS controlarán el tráfico entre los servidores para evitar conflictos.
Los umbrales de clasificación de QoS, Notificación Explícita de Congestión (ECN) y Control de Flujo Prioritario (PFC) se configuran en todos los conmutadores para evitar la pérdida de paquetes. El analizador de latencia (LANZ) de Arista EOS determina los umbrales adecuados para evitar la pérdida de paquetes al tiempo que mantiene un alto rendimiento, y permite escalar la red manteniendo una latencia predecible y baja.
El segundo caso de uso puede ampliarse a cientos de terminales, conectando todos los modos de GPU directamente al conmutador 7800R3 en la columna vertebral de inteligencia artificial. El resultado es una estructura que ofrece un único salto entre todos los terminales, lo que reduce la latencia y permite crear una única red de gran tamaño y sin pérdidas que no requiere configuración ni ajuste, según explica Arista.
Retos de la inteligencia artificial en red
La demanda de la arquitectura Spine de inteligencia artificial viene impulsada principalmente por tecnologías y aplicaciones como la virtualización de servidores, la contenedorización de aplicaciones, la computación multicloud, la Web 2.0, el big data y la HPC. “Para optimizar y mejorar el rendimiento de estas nuevas tecnologías, se ha demostrado que las estructuras IP distribuidas, de escalabilidad horizontal y con gran capacidad de almacenamiento en búfer ofrecen un rendimiento constante capaz de escalar para soportar patrones de tráfico ‘este-oeste’ extremos”, escribió Arista.
Aunque quizá sea prematuro que la mayoría de las empresas se preocupen por gestionar cargas de trabajo de clústeres de inteligencia artificial a gran escala, algunos entornos de mayor tamaño —así como las redes de hiperescala, del sector financiero, de realidad virtual, de videojuegos y de desarrollo automovilístico— ya se están preparando para las alteraciones en el tráfico que estas podrían provocar en la red tradicional.
La directora ejecutiva de Arista, Jayshree Ullal, declaró recientemente a Goldman Sachs que, a medida que crecen las cargas de trabajo de IA, estas ejercen una presión cada vez mayor sobre la capacidad y el ancho de banda de las redes, así como sobre el almacenamiento adecuado y la profundidad de búfer, con una latencia predecible; además, el procesamiento de flujos masivos de pequeños paquetes ejerce una presión cada vez mayor. Convergencia tecnológica. “Se necesitará mucho trabajo de ingeniería para que la red Ethernet heredada funcione como red de back-end y pueda dar soporte a esta tecnología en el futuro, y el uso creciente de 400G dará un impulso adicional a este desarrollo”, afirmó Ullal.
