En el actual panorama tecnológico, los proveedores de modelos de inteligencia artificial generativa enfrentan retos sin precedentes en cuanto a escala computacional. El preentrenamiento de modelos fundamentales, conocidos como Foundation Models (FMs), requiere frecuentemente miles de aceleradores trabajando continuamente durante días, e incluso meses. Para gestionar esta complejidad, se implementan clústeres de entrenamiento distribuidos. Estos clústeres dependen de instancias de