INFRASTRUCTURE
Acelerando la IA: Diseño de redes lossless con RoCEv2
El entrenamiento de modelos de Inteligencia Artificial modernos exige eliminar cualquier cuello de botella en la comunicación entre GPUs. Aquí es donde RoCEv2 (RDMA over Converged Ethernet) se ha convertido en el estándar de facto.
En esta sesión rápida de 25 minutos, iremos directo al grano sobre cómo diseñar y operar fabrics de red "lossless" para clusters de IA de alto rendimiento en el datacenter. Hablaremos de los conceptos críticos que marcan la diferencia en la infraestructura:
Por qué el tráfico de entrenamiento de IA "rompe" las redes tradicionales.
Mecanismos de control de congestión indispensables: PFC (Priority Flow Control) y ECN (Explicit Congestion Notification).
Consideraciones clave de diseño al transportar RoCEv2 sobre un fabric VXLAN EVPN.
El objetivo es que la audiencia se lleve una guía arquitectónica práctica para evitar que la red sea el límite físico en sus cargas de trabajo.
En esta sesión rápida de 25 minutos, iremos directo al grano sobre cómo diseñar y operar fabrics de red "lossless" para clusters de IA de alto rendimiento en el datacenter. Hablaremos de los conceptos críticos que marcan la diferencia en la infraestructura:
Por qué el tráfico de entrenamiento de IA "rompe" las redes tradicionales.
Mecanismos de control de congestión indispensables: PFC (Priority Flow Control) y ECN (Explicit Congestion Notification).
Consideraciones clave de diseño al transportar RoCEv2 sobre un fabric VXLAN EVPN.
El objetivo es que la audiencia se lleve una guía arquitectónica práctica para evitar que la red sea el límite físico en sus cargas de trabajo.
Register to watch Miguel Barajas's talk
Register for freeMore from INFRASTRUCTURE
4:40 PM - 5:10 PM
Cuando la Biología se convirtió en un problema de Plataforma
Melany Estevez
bootc: el futuro de las distros Linux es una imagen OCI
Jorge Varela
John Willis at Nerdearla
John Willis
What Databases Reveal About the True Cost of Kubernetes
Peter Zaitsev