Kubernetes: de Container Orchestration a Framework Orchestration en la era de AI

Kubernetes nació para orquestar contenedores uniformes y sin estado. Sin embargo, las cargas de trabajo de entrenamiento e inferencia de IA a gran escala rompen con los paradigmas tradicionales de microservicios: exigen un acceso ultraeficiente a hardware especializado y no uniforme (como GPUs y TPUs), coordinándose a través de frameworks distribuidos y dinámicos como PyTorch, JAX o Ray.

En esta charla, analizaremos cómo Kubernetes está madurando de ser un orquestador de infraestructura a un sistema operativo distribuido invisible ("Framework Orchestrator"). Exploraremos por qué los enfoques tradicionales de "envolver" frameworks en operadores pesados añaden fricción y cómo la verdadera estrategia radica en la "polinización activa": integrar las primitivas de Kubernetes directamente en el upstream de los principales frameworks de Machine Learning.

Abordaremos soluciones técnicas clave como Dynamic Resource Allocation (DRA), JobSet y Kueue, y discutiremos el rol estratégico de las Oficinas de Programas de Código Abierto (OSPO) para liderar esta convergencia entre fundaciones (CNCF, PyTorch Foundation) para mantener el ecosistema de IA abierto y soberano.