Kubernetes: de Container Orchestration a Framework Orchestration en la era de AI
Kubernetes nació para orquestar contenedores uniformes y sin estado. Sin embargo, las cargas de trabajo de entrenamiento e inferencia de IA a gran escala rompen con los paradigmas tradicionales de microservicios: exigen un acceso ultraeficiente a hardware especializado y no uniforme (como GPUs y TPUs), coordinándose a través de frameworks distribuidos y dinámicos como PyTorch, JAX o Ray. En esta charla, analizaremos cómo Kubernetes está madurando de ser un orquestador de infraestructura a un sistema operativo distribuido invisible ("Framework Orchestrator"). Exploraremos por qué los enfoques tradicionales de "envolver" frameworks en operadores pesados añaden fricción y cómo la verdadera estrategia radica en la "polinización activa": integrar las primitivas de Kubernetes directamente en el upstream de los principales frameworks de Machine Learning. Abordaremos soluciones técnicas clave como Dynamic Resource Allocation (DRA), JobSet y Kueue, y discutiremos el rol estratégico de las Oficinas de Programas de Código Abierto (OSPO) para liderar esta convergencia entre fundaciones (CNCF, PyTorch Foundation) para mantener el ecosistema de IA abierto y soberano.
Sobre Federico Bongiovanni
Senior Engineering Manager, GKE, Google Cloud Federico Bongiovanni is an Engineering Leader on Google Cloud GKE team, a Kubernetes Contributor and Co-Chair SIG API Machinery. Working at Google since 2018 with a passion for open source, building robust, scalable solutions and developing teams and people. Outside of work, he enjoys spending time with his wife and 3 kids, sports, outdoors and cooking. Lives in the Bay Area, speaks English, Spanish, Italian and Portuguese.
