Amazon ha lanzado SageMaker HyperPod, una innovadora infraestructura diseñada para optimizar el entrenamiento y la inferencia de modelos de aprendizaje automático (ML) a gran escala. Esta nueva solución busca simplificar la construcción y optimización de infraestructuras de ML, logrando reducir el tiempo de entrenamiento hasta en un 40%.
SageMaker HyperPod fomenta la creación de clústeres persistentes con resiliencia incorporada, ofreciendo un control detallado sobre la infraestructura. Los usuarios ahora pueden acceder a las instancias de Amazon Elastic Compute Cloud (EC2) mediante SSH, mejorando así el desarrollo y despliegue de modelos. Esto permite gestionar clústeres que utilizan cientos o miles de aceleradores de IA, mientras se adhieren a las políticas de seguridad y normas de grandes empresas.
Una característica destacada es el soporte para Amazon Elastic Kubernetes Service (EKS) con la nueva función de «provisión continua». Este enfoque aumenta la escalabilidad de los clústeres permitiendo provisiones parciales, actualizaciones en marcha y el escalado concurrente, otorgando a las organizaciones una flexibilidad operativa sin precedentes.
Además, SageMaker HyperPod permite el uso de Amazon Machine Images (AMIs) personalizadas, lo cual facilita la preconfiguración de pilas de software, agentes de seguridad y dependencias específicas de cada organización. Esto es crucial para las empresas que requieren ambientes especializados conforme a sus estándares de seguridad y operativos.
La característica de provisión continua permite a los equipos de ML comenzar a entrenar y desplegar modelos con los recursos disponibles, mientras la plataforma completa la provisión de recursos en segundo plano, disminuyendo notablemente los tiempos de espera.
Con las AMIs personalizadas, las organizaciones obtienen un control detallado para alinear sus ambientes de ML con los estándares de seguridad corporativa y requisitos de software, acelerando iniciativas de inteligencia artificial y reduciendo la sobrecarga operativa.
En resumen, las mejoras en SageMaker HyperPod fortalecen la escalabilidad y personalización de la infraestructura de ML, ofreciendo a las empresas herramientas avanzadas para optimizar sus procesos de desarrollo en un entorno que evoluciona constantemente.
